רומטי יחליף את סמואל פלמיסאנו היוצא (שניהם בתמונה) בפוסט ב-1 בינואר 2012. פלמיסאנו יישאר יו"ר מועצת המנהלים של IBM. רומטי, שהצטרף ל-IBM ב-1981 כמהנדס מערכות, משמש כיום כ-svp ומנהל קבוצתי למכירות, שיווק ואסטרטגיה של החברה.

פלמיסאנו מכהן כמנכ"ל החברה מאז 2002. תחת השגחתו, IBM יצאה מכמה עסקים מסוכרים כמו מחשבים אישיים, מדפסות וכוננים קשיחים ופיקחה על התרחבות לסין, ברזיל, הודו ורוסיה, בין שווקים מתעוררים אחרים.