في 16 يونيو 1911، الشركات الأربع لـ جوليوس بيتراب (الحاصل على براءة اختراع مقياس الحوسبة)، وألكسندر داي (الذي اخترع سجل الاتصال الهاتفي)، وهيرمان هوليريث (الحاصل على براءة اختراع آلة الجدولة الكهربائية)، وويلارد بندي (اخترع ساعة زمنية ل سجل وقت وصول العامل ومغادرته على شريط ورقي)، تم دمجهم في ولاية نيويورك بواسطة تشارلز رانليت فلينت ليشكل شركة خامسة، وهي شركة الحوسبة-الجدولة-التسجيل ومقرها في إنديكوت، نيويورك.

في عام 1914، عُرض على توماس جيه واتسون، الأب، الذي طرده جون هنري باترسون من الشركة الوطنية لتسجيل النقد، منصبًا في شركة "شركة الحوسبة-الجدولة-التسجيل". انضم واتسون إلى شركة "شركة الحوسبة-الجدولة-التسجيل" كمدير عام.

في عام 1915، تم تعيين واتسون كرئيس عندما تم حل القضايا المتعلقة بفترة عمله في إن سي آر. بعد أن تعلم ممارسات الأعمال الرائدة في باترسون، شرع واتسون في وضع طابع إن سي آر على شركات سي تي آر. أصبح شعاره المفضل "فكر" شعار لكل موظفي الشركة.

خلال السنوات الأربع الأولى لـ واتسون، وصلت الإيرادات إلى 9 ملايين دولار، و 133 مليون دولار اليوم، وتوسعت عمليات الشركة إلى أوروبا وأمريكا الجنوبية وآسيا وأستراليا.

لم يعجب واطسون أبدًا بالاسم الموصول الأخرق "شركة الحوسبة-الجدولة-التسجيل" وفي 14 فبراير 1924، اختار استبداله بالعنوان الأكثر اتساعًا "المؤسسة الدولية للحاسبات الآلية".

بحلول عام 1933، تم دمج معظم الشركات التابعة في شركة واحدة، آي بي إم.

في عام 1937، مكنت معدات الجدولة الخاصة بشركة "آي بي إم" المؤسسات من معالجة كميات هائلة من البيانات. كان من بين عملائها حكومة الولايات المتحدة، خلال جهدها الأول للحفاظ على سجلات التوظيف لـ 26 مليون شخص وفقًا لقانون الضمان الاجتماعي.

في عام 1937، مكنت شركة آي بي إم الرايخ الثالث لهتلر من تعقب اليهود وغيرهم من الجماعات المضطهدة، إلى حد كبير من خلال الشركة الألمانية الفرعية ديهوماج.

في عام 1949، أنشأ توماس واتسون، الأب، شركة "آي بي إم" مؤسسة التجارة العالمية، وهي شركة تابعة لشركة "آي بي إم" تركز على العمليات الأجنبية.

في عام 1952، استقال توماس واتسون الأب بعد ما يقرب من 40 عامًا على رأس الشركة، وتم تعيين ابنه توماس واتسون الابن رئيسًا للشركة.

في عام 1956، عرضت الشركة أول مثال عملي للذكاء الاصطناعي عندما قام "آرثر صموئيل" من مختبر بوغكيبسي في نيويورك ببرمجة آي بي إم 704 ليس فقط للعب لعبة الداما ولكن "التعلم" من تجربتها الخاصة.

في عام 1957، طورت شركة "آي بي إم" لغة البرمجة العلمية "فورتران" بواسطة عالم الكمبيوتر الأمريكي جون باكوس.

في عام 1961 طورت شركة "آي بي إم" نظام حجز "شركة صابر" لشركة الخطوط الجوية الأمريكية وقدمت الآلة الكاتبة سليتريك الناجحة للغاية.

في عام 1963، ساعد موظفو "آي بي إم" وأجهزة الكمبيوتر وكالة ناسا في تتبع الرحلات المدارية لرواد فضاء ميركوري.

في 7 أبريل 1964، أعلنت شركة آي بي إم عن عائلة أنظمة الكمبيوتر الأولى، نظام آي بي إم / 360. لقد إتسع نطاقًا كاملاً من التطبيقات التجارية والعلمية من الكبيرة إلى الصغيرة، مما يسمح للشركات بالترقية إلى نماذج ذات قدرة حاسوبية أكبر دون الحاجة إلى إعادة كتابة تطبيقاتها.

في عام 1964، نقلت شركة "آي بي إم" المقر الرئيسي للشركة من مدينة نيويورك إلى أرمونك، نيويورك.

شهد النصف الأخير من الستينيات من القرن الماضي أن "آي بي إم" تواصل دعمها لاستكشاف الفضاء، وشاركت في رحلات جيميني عام 1965، ورحلات زحل عام 1966، والمهمة القمرية عام 1969.

في عام 1969، اخترع فورست باري، مهندس آي بي إم، بطاقة الشريط المغناطيسي التي ستصبح منتشرة في كل مكان لبطاقات الائتمان / الخصم / الصراف الآلي، ورخص القيادة، وبطاقات النقل السريع، والعديد من تطبيقات التحكم في الهوية والوصول الأخرى.

كانت شركة آي بي إم رائدة في تصنيع البطاقات الممغنطة، وفي معظم السبعينيات، كانت أنظمة وبرامج معالجة البيانات لمثل هذه التطبيقات تعمل حصريًا على أجهزة كمبيوتر آي بي إم.

في عام 1970، تم تقديم نظام آي بي إم / 370. كلاً من 360 و370 معًا جعلوا من حواسب آي بي إم هو الكمبيوتر الرئيسي المهيمن ومنصة الحوسبة المهيمنة في الصناعة طوال هذه الفترة وحتى أوائل الثمانينيات.

في عام 1974، طور جورج جيه لورير، مهندس آي بي إم، رمز المنتج العالمي.

حصل خمسة من العاملين في شركة "آي بي إم" على جائزة نوبل: ليو إيساكي، من مركز توماس واتسون للأبحاث في يوركتاون هايتس، نيويورك، في عام 1973، للعمل في أشباه الموصلات. جيرد بينيج وهاينريش روهرر، من مركز زيورخ للأبحاث، في عام 1986، من أجل مجهر مسح الأنفاق، وجورج بيدنورز وأليكس مولر، من زيورخ أيضًا، في عام 1987، للبحث في الموصلية الفائقة.

قدمت شركة آي بي إم والبنك الدولي لأول مرة مقايضات مالية للجمهور في عام 1981 عندما أبرما اتفاقية مقايضة.

في عام 1981، تم تقديم كمبيوتر آي بي إم الشخصي، والذي تم تسميته في الأصل بـ آي بي إم 5150، وسرعان ما أصبح معيارًا صناعيًا.

في عام 1991، قامت شركة آي بي إم بتحويل تصنيع طابعاتها إلى شركة جديدة تسمى ليكسمارك، وهي شركة أمريكية مملوكة للقطاع الخاص تصنع طابعات الليزر ومنتجات التصوير. يقع المقر الرئيسي للشركة في ليكسينغتون، كنتاكي.

في عام 1993، سجلت شركة آي بي إم خسارة قدرها 8 مليارات دولار أمريكي - في ذلك الوقت كانت الأكبر في تاريخ الشركات الأمريكية. تم تعيين "لو جيرستنر" كمدير تنفيذي من "آر جيه آر نابيسكو" لتغيير مسار الشركة، في 1 أبريل 1993.

في عام 2003، بعد الاستحواذ على استشارات برايس ووترهاوس كوبرز، بدأت شركة آي بي إم مشروعًا لإعادة تعريف قيم الشركة، واستضافة المناقشة عبر الإنترنت لمدة ثلاثة أيام حول قضايا العمل الرئيسية مع 50,000 موظف. وكانت النتيجة ثلاث قيم: "التفاني في نجاح كل عميل"، و "الابتكار الذي يهم - لشركتنا وللعالم"، و "الثقة والمسؤولية الشخصية في جميع العلاقات".

في 1 مايو 2005، باعت الشركة أعمالها في مجال الكمبيوتر الشخصي لشركة التكنولوجيا الصينية لينوفو مقابل 1.25 مليار دولار أمريكي.

تم الاعتراف بشركة "آي بي إم" كواحدة من أفضل 20 مكان عمل للمسافرين من قبل "وكالة حماية البيئة الأمريكية" (EPA) في عام 2005، والتي اعترفت بشركات "فورتشن" 500 التي زودت الموظفين بمزايا ممتازة للركاب للمساعدة في تقليل حركة المرور وتلوث الهواء.

في عام 2009، استحوذت على شركة البرمجيات إس بي إس إس.

في وقت لاحق من عام 2009، حصل برنامج الحوسبة الفائقة الجين الأزرق لشركة آي بي إم على الميدالية الوطنية للتكنولوجيا والابتكار من قبل الرئيس الأمريكي باراك أوباما.

في عام 2011، حظيت شركة آي بي إم باهتمام عالمي بسبب برنامج الذكاء الاصطناعي واتسون الخاص بها، والذي تم عرضه في برنامج "خطر!" حيث فاز البرنامج على بطل لعبة عرض كين جينينغز وبراد روتر.

في عام 2012، احتفلت شركة آي بي إم بالذكرى المئوية لتأسيسها.

في عام 2012 أعلنت شركة "آي بي إم" أنها وافقت على شراء كينيكسا.

في عام 2013، استحوذت آي بي إم أيضًا على "سوفت لاير تكنولوجيز"، وهي خدمة استضافة ويب، في صفقة تبلغ قيمتها حوالي 2 مليار دولار.

أيضًا ، في عام 2013، صممت الشركة نظام مراقبة بالفيديو لمدينة دافاو.

في عام 2014، أعلنت شركة آي بي إم أنها ستبيع قسم الخوادم "x86" إلى "لينوفو" مقابل 2.1 مليار دولار.

في عام 2014، كشفت الشركة عن "ترو نورث"، وهي دائرة عصبية الشكل متكاملة من أكسيد معدني متمم أشباه الموصلات، وأعلنت عن استثمار 3 مليارات دولار على مدى السنوات الخمس التالية لتصميم شريحة عصبية تحاكي الدماغ البشري، مع 10 مليار خلية عصبية و100 تريليون نقطة تشابك عصبية، ولكن هذا يستخدم 1 فقط كيلوواط من الطاقة.

أيضًا ، في عام 2014، بدأت "آي بي إم" في الإعلان عن العديد من الشراكات الرئيسية مع شركات أخرى، بما في ذلك شركة أبل وتويتر وفيسبوك وتنسنت وسيسكو وأندر أرمور و بوكس و مايكروسوفت و في إم وير و سي إس سي و ماسيز و سيسيم ووركشوب، الشركة الأم لـ سيسيم ستريت، و"سيلز فورس دوت كوم".

في مايو 2015، رفعت جروبون دعوى قضائية ضد شركة "آي بي إم" متهمة إياها بانتهاك براءات الاختراع، بعد شهرين من اتهام شركة "آي بي إم" "جروبون" بانتهاك براءات الاختراع في دعوى قضائية منفصلة.

في عام 2015، أعلنت شركة "آي بي إم" عن ثلاث عمليات استحواذ رئيسية: دمج الرعاية الصحية مقابل 1 مليار دولار، وشركة تخزين البيانات "كلفر سيف"، وجميع الأصول الرقمية من شركة "ذا ويزر"، بما في ذلك "ويزر دوت كوم" وتطبيق "ويزر تشانل للجوال".

في عام 2016، استحوذت شركة "آي بي إم" على خدمة مؤتمرات الفيديو "يو ستريم" وشكلت وحدة فيديو كلاود جديدة.

في أبريل 2016، سجلت أدنى مستوى لها منذ 14 عامًا في المبيعات الفصلية.

في عام 2016 ، اشترت شركة "آي بي إم" شركة تحليلات الصحة "تروفن" مقابل 2.6 مليار دولار.

تم تداول أسهم "آي بي إم" بأكثر من 125 دولارًا أمريكيًا للسهم الواحد، وقدرت قيمتها السوقية بأكثر من 113.9 مليار دولار أمريكي في سبتمبر 2018.

في أكتوبر 2018، أعلنت شركة "آي بي إم" عزمها الاستحواذ على "ريد هات" مقابل 34 مليار دولار.

احتلت شركة آي بي إم المرتبة 34 في تصنيفات 2018 فورتشين 500 لأكبر الشركات الأمريكية من حيث إجمالي الإيرادات.

في 9 يوليو 2019 ، نجحت شركة "آي بي إم" في شراء "ريد هات" مقابل 34 مليار دولار.

في مارس 2020، تم الإعلان عن قيام شركة "آي بي إم" ببناء أول كمبيوتر كمي في ألمانيا. يجب أن يسمح الكمبيوتر للباحثين بتسخير التكنولوجيا دون الوقوع في مواجهة موقف الاتحاد الأوروبي الحازم المتزايد بشأن سيادة البيانات.

في عام 2020، تمتلك الشركة الرقم القياسي لمعظم براءات الاختراع التي تنتجها الأعمال التجارية، بمناسبة 27 عامًا متتالية من الإنجاز.