1956年3月18日，陈毅同志率领中央代表团赴拉萨参加“西藏自治区筹备委员会”成立庆典，路过西安短暂停留。到后，听说西安于1953年，在建造发电厂的工地上，发现了一处石器时代，距今六千多年前的村落———半坡遗址。自1954年起，中国科学院考古研究所在此发掘，现正在进行第四次发掘工作。对此，他十分有兴，便不顾旅途中的疲劳，驱车前往。
在发掘工地上，他兴致勃勃地参观了遗址中的房屋、陶窑、窖穴、灶炕、男女分葬的集体墓群，以及出土的人面鱼彩陶盆、骨针、鱼钩，石和骨制作的斧、凿、刀、铲等生产工具。尤其是看到半坡人在生产和生活实践中，创造了具有文字性质的符号和绘画、雕塑、装饰等艺术品时，连声称赞：“这不是假的噢，这是我们祖先的伟大创造。”参观中，对有些不清楚之处，不断询问，直到弄懂，连连点头为止。
参观毕后，在休息室，听取了主持发掘工作的中国科学院考古研究所著名考古专家石兴邦先生的汇报。他说：“这处遗址是我国，也是世界上首次发现最早完整的原始聚落群遗址，对于研究复原我国的母系氏族社会的生活、文化、经济结构等提供了实物资料。”陪同来参观的文化部和文物局的领导郑振铎、王冶秋向陈毅副总理建议，希望把半坡遗址完整地保存下来，建造一个博物馆，供游人参观，有利于宣传历史唯物主义和进行爱国主义教育。陈毅当即表示：“这个意见很好，应当，应当，最好在这里建博物馆。”
随同前来的省市领导当即表示说：“这里原计划建一座发电厂，即将动工。”陈毅一听，严肃地说：“发电厂哪里不能建，为什么非要建在这里不可呢？”后省领导又提出：“要建博物馆，我们地方上没有钱。”陈毅听后说：“这个你们先作个预算报国务院，我负责给你们办。”
陈毅一生喜欢写诗，走到哪里写到哪里。在参观半坡后，诗兴又发，欣然挥笔写下《西安半坡村访古》七言诗四首：
其一：“半坡村是原人居，彩陶粉陈世所稀。绝无甲骨方块字，七千年前往可稽。”
其二：“细孔骨针诚巧矣，鱼钩倒刺不奇欤！瓮葬婴儿骸骨在，后人何事疑唐虞？”
其三：“学者羞称五帝德，缙绅先生每难言。洪荒野蛮成已往，后启文明莫忘前。”
其四：“学人聚讼华夏史，半坡铁证说自存。不应拒绝有外铄，齐向大同说文明。”
第二天，陈毅在西安就致电国务院，阐述建立半坡博物馆的重大意义，希望中央在财政上给予支持。4月21日，陕西省文化局启动了筹建博物馆的工作，由省博物馆馆长武伯纶兼任筹建处主任。5月7日，中央文化部拨来了用于建设博物馆专款30万元。9月2日，半坡博物馆开始动工，历时二年，1957年建成，1958年正式对外开放。
半坡博物馆建成后，陈毅曾两次来到半坡博物馆。一次是他和夫人张茜来到半坡博物馆，一次是他陪周总理与尼泊尔国王来参观。
