ولد سالم الجميلي عام 1957 في قرية شويش التابعة لقضاء بيجي في أسرة تمتهن الزراعة وتربية المواشي لكن ذلك لم يحل دون أن يصبح الأشقاء الخمسة ضباطاً في القوة الجوية والاستخبارات العسكرية والجيش والحرس الجمهوري.
بعد دراسته الإعدادية التحق بكلية الأمن القومي الدورة الأولى عام 1976 وتخرّج في 12 يوليو (تموز) 1979. باشر العمل كضابط في جهاز المخابرات في مديرية مكافحة التجسس شعبة المتابعة.
في 1980 نُسب للعمل في قسم دول جنوب شرقي آسيا وعيّن في 1984 مديراً لمخابرات مطار صدام الدولي. نقل في 1989 إلى الخدمة الخارجية وشغل منصب مدير شعبة سوريا.
في 1995 عيّن مديراً لمحطة المخابرات في السفارة العراقية في الجزائر تحت غطاء قنصل بدرجة سكرتير أول إبان "العشرية السوداء". وفي 1999 نُقل إلى بغداد وتسلّم مهام مدير شعبة أميركا في الخدمة الخارجية واستمر في منصبه حتى الغزو الأميركي في 2003.
اعتقلته القوات الاميركية وأودع سجن كروبر وأخلي سبيله في بداية 2004. شارك في العديد من المؤتمرات العربية والدولية منها مؤتمر قادة الشرطة والأمن العرب الذي عقد في الجزائر عام 1987 ومؤتمر وزراء خارجية عدم الانحياز في كولومبيا ومؤتمر مجموعة الـ 77 في كوبا عام 2000.
شارك أيضاً في اجتماعات الوفد العراقي برئاسة وزير الخارجية محمد سعيد الصحاف وخلفه الدكتور ناجي صبري الحديثي مع الأمين العام للأمم المتحدة بهدف رفع العقوبات عن العراق.