1974年12月，沙龙担任议员一年后，被重新召入以国防军，出任“紧急部队”高级指挥官。1975年至1976年出任总理拉宾的的高级安全事务顾问。1977年沙龙再次蝉联议员，后加入执政的利库德集团，任农业部长。1981年8月转任国防部长。1982年6月策划和指挥了侵略黎巴嫩的战争。1983年3月因贝鲁特难民营大屠杀事件的牵连，被迫辞去国防部长一职，任不管部长。1984年至1992年，先后出任工商部长和住房建设部长。1996年利库德集团重新上台执政后，在内塔尼亚胡政府任国家基础设施部长，1998年以外长利维因与内塔尼亚胡政见分歧而辞职后，沙龙兼任外交部长直到1999年大选。1999年9月8日正式当选利库德集团领导人。2001年2月以利库德集团领导人身份参加了以色列总理竞选并获胜，当选以色列总理, 2001年3月7日宣誓就职。同时兼任移民部长。2002年11月，沙龙在利库德集团选举中战胜内塔尼亚胡连任利库德集团主席。2003年1月，沙龙领导的利库德集团在大选中获胜，成为议会第一大党，再次成为以色列总理。2003年2月宣誓就职。

　　1998年7月应邀访问中国。