Początki zorganizowanej działalności społecznej mechaników w Polsce, datujące się od II połowy XIX w., prowadzone były w ramach ogólnych stowarzyszeń technicznych tj. Polskiego Towarzystwa Politechnicznego we Lwowie, Krakowskiego Towarzystwa Technicznego oraz Stowarzyszenia Technicznego w Warszawie. Proces integracji społecznego ruchu mechaników nastąpił na początku XX w.

Po odzyskaniu niepodległości w Polsce, rozpoczęły się prace nad utworzeniem samodzielnego stowarzyszenia mechaników. W dniu 28. czerwca 1926 roku, grupa założycielska pod przewodnictwem prof. Henryka Mierzejewskiego doprowadziła do zebrania konstytucyjnego Stowarzyszenia Inżynierów Mechaników Polskich. Udział w tym zebraniu wzięło 37 osób - członków założycieli SIMP, a pierwszym prezesem wybrany został prof. inż. Henryk Mierzejewski.

Na ostateczne podjęcie decyzji o założeniu stowarzyszenia wpłynął przewrót majowy Józefa Piłsudzkiego, dokonany pod hasłami naprawy (sanacji) życia politycznego, społecznego i gospodarczego. Do końca rozwiał on tkwiące jeszcze wśród wielu mechaników wątpliwości, którzy budowę nowego stowarzyszenia traktowali właśnie jako fragment ogólnej sanacji życia społecznego. Prof. H. Mierzejewski tak o tym pisał - "Dopiero wstrząs majowy i uprzytomnienie sobie wielkiej odpowiedzialności społecznej, jaka ciąży na grupie inżynierów mechaników, mogącej wywrzeć doniosły i rozległy wpływ na ukształtowanie się życia gospodarczego kraju, przełamał bezwład myśli i czynu. Stwierdzić muszę, że dziełu temu towarzyszył wielki nakład pracy i entuzjazmu. Inicjatorzy, przeważnie z młodszej generacji inżynierów dążyli do ustalenia takiego typu stowarzyszenia, który byłby dobrze przystosowany do potrzeb kraju, i którego zręby organizacyjne zapewniałyby trwałość na długie lata".

W okresie od założenia Stowarzyszenia liczba jego członków systematycznie zwiększała się i wynosiła w 1929 r. - 85, w 1933 r. - 140, 1934 r. - 371.
Cele i zadania sformułowano w statucie SIMP zatwierdzonym przez Ministerstwo Spraw Wewnętrznych w dniu 20. sierpnia 1926 roku, a merytoryczną działalność rozpoczęto po wakacjach, we wrześniu tegoż roku.
Początkowym założeniem SIMP było zrzeszanie elity mechaników polskich. Od 1934 r., z chwilą wybrania nowego prezesa Witolda K. Wierzejskiego, założenia te zmieniono na rzecz stowarzyszenia o charakterze masowym i nastąpił wówczas szybki rozwój liczby członków SIMP (w czerwcu 1939 r. - już 1299). Najszerszą płaszczyzną wymiany informacji naukowych i technicznych były zjazdy inżynierów mechaników, których odbyło się w okresie międzywojennym 11 (z czego 9 w Warszawie i po jednym w Katowicach i we Lwowie).

Wybuch II wojny światowej przerwał zorganizowaną działalność mechaników polskich. Podczas okupacji włączyli się oni w działalność podziemną, m.in. w ramach Tajnej Organizacji Inżynierów, kierowanej przez prof. Stefana Bryłę. Wielu inżynierów mechaników w okresie okupacji brało udział w tajnym nauczaniu na poziomie wyższych szkół technicznych oraz uczestniczyło w opracowaniu książek i podręczników technicznych. Mechanicy polscy działali też w czasie wojny poza granicami kraju, w ramach różnych organizacji inżynierskich. Najliczniejszym, najbardziej znaczącym było Stowarzyszenie Techników Polskich w Wielkiej Brytanii.

Po wyzwoleniu, w marcu 1946 r., zwołano Nadzwyczajny Walny Zjazd Delegatów i Członków SIMP przy udziale środowisk inżynierskich z Krakowa, Poznania, Radomia, Skarżyska, Łodzi i Gliwic. Uchwalono na nim m.in. statut SIMP oraz podjęto decyzję o przystąpieniu SIMP do nowo wówczas powołanej Naczelnej Organizacji Technicznej. Pierwszym powojennym prezesem SIMP został prof. Ludwik Uzarowicz.

Ważną dziedziną działalności SIMP były i są wydawnictwa. W latach 1947-1950 istniał Instytut Wydawniczy SIMP, który w krótkim czasie wydał ok. 300 tys. egzemplarzy książek (w tym wielotomowy "Poradnik techniczny mechanika" i "Mały poradnik mechanika") oraz 700 zeszytów czasopism: "Przegląd Techniczny", "Mechanik", "Przegląd Spawalnictwa, "Technika Lotnicza". Znamienny wpływ na ukierunkowanie prac SIMP miał XXII Walny Zjazd Delegatów SIMP w Krakowie w 1972 r., na którym sformułowano znane i aktualne do dzisiaj trzy hasła:
  SIMP - wychowawcą mechaników i organizatorem ich ciągłego doskonalenia zawodowego,
  SIMP - ekspertem w budowie i eksploatacji maszyn,
  SIMP - rzecznikiem spraw osobistych i społecznych mechaników Polskich.

W tym okresie formy działalności społecznej SIMP uległy ogromnemu wzbogaceniu. Prawie na każdym szczeblu organizacyjnym Stowarzyszenia wprowadzono działalność: odczytową, szkoleniową i konferencyjną, rzeczoznawczą, wydawniczą, wystawienniczą, kulturalno-oświatową i rekreacyjną. Działalność tę wzmocniły zwłaszcza powołane w celu realizacji działalności statutowej i gospodarczej dwie agendy SIMP:
  Zespół Ośrodków Doskonalenia Kadr ZODOK-SIMP (utworzony w 1970 r., który skoordynował działalność szkoleniową),
  Zespół Rzeczoznawców SIMP (powołany w 1958 r.), na bazie którego powstał Zespół Ośrodków Rzeczoznawstwa i Postępu Technicznego ZORPOT-SIMP (1974 r.).

W latach osiemdziesiątych utworzono kolejne agendy SIMP: Zespół Ośrodków Kwalifikacji Jakości Wyrobów ZOKJW-SIMP, Centrum Eksportowe SIMPEX, Centrum Postępu Technicznego SIMP im. prof. inż. H. Mierzejewskiego, Oficynę Wydawniczą SIMPRESS oraz Biuro Wymiany Doświadczeń i Turystyki SIMPTUR, które również realizują zadania gospodarcze i statutowe.

Wśród istotniejszych wydarzeń w powojennej historii SIMP warto jeszcze wymienić rok 1970, kiedy to Stowarzyszenie przejęło w użytkowanie wieczyste zabytkowy zamek w Rydzynie. Zamek ten, wraz z otoczeniem w całości już odbudowany, jest reprezentacyjną siedzibą Stowarzyszenia. Jest to miejsce Zjazdów SIMP, konferencji naukowo-technicznych, szkoleń i różnego rodzaju imprez okolicznościowych. Rok 2001 był rokiem Jubileuszu 75-lecia istnienia SIMP. Obchody, którym patronował Pan Aleksander Kwaśniewski - Prezydent Rzeczypospolitej Polskiej, miały charakter bardzo uroczysty, których finałem była Sesja Jubileuszowa odbyta w dniu 9 listopada 2001r.