W debacie o sztucznej inteligencji w biznesie coraz częściej pojawia się ton skrajny: albo zachwyt graniczący z mesjanizmem, albo lęk przed technologiczną apokalipsą. W obu przypadkach punkt ciężkości przesuwa się w stronę samej technologii np. tempa jej rozwoju. Tymczasem, jak przekonuje Andrzej Dragan w książce „Quo vadis AI?”, prawdziwe źródło zagrożeń leży nie w maszynach, lecz w naszych wyobrażeniach o nich. Okazuje się, że największym problemem biznesu są ludzkie złudzenia dotyczące tego, co potrafi i jakie decyzje powinna podejmować za nas.

Pierwsze przekonanie: współczesne systemy AI posiadają „inteligencję” w sensie zbliżonym do ludzkiego.

Sam termin „sztuczna inteligencja” działa jak semantyczna pułapka. Sugeruje bowiem istnienie świadomości. Dragan konsekwentnie pokazuje, że to nieuprawniona projekcja. Dzisiejsze modele językowe, systemy rekomendacyjne czy algorytmy predykcyjne NIE ROZUMIEJĄ świata. Operują na statystycznych korelacjach pomiędzy danymi. Nie mają pojęć, przekonań ani celów. Są wyrafinowanymi maszynami do rozpoznawania wzorców.

W biznesie jednak bardzo łatwo zapomnieć o tej różnicy. Gdy system generuje płynny tekst, tworzy raporty, odpowiada na pytania klientów lub sugeruje strategie marketingowe, zaczynamy przypisywać mu kompetencje poznawcze. Mówimy, że „AI wie”, „AI rozumie”, „AI doradza”. To język, który buduje iluzję podmiotowości.

W rzeczywistości algorytm nie wie nic. Odtwarza tylko najbardziej prawdopodobne sekwencje znaków na podstawie danych treningowych.

To złudzenie ma realne konsekwencje decyzyjne. Przedsiębiorcy zaczynają traktować rekomendacje systemów jako wynik „myślenia”, a nie jako statystyczną prognozę obarczoną błędem. W efekcie zmniejsza się poziom krytycznego namysłu. Jeśli coś „powiedziała sztuczna inteligencja”, to brzmi bardziej obiektywnie niż „tak wyszło z modelu, który uczono na nie do końca znanych danych”.
Dragan zwraca uwagę, że podobne zjawisko występowało już wcześniej w historii technologii, lecz skala obecnego problemu jest większa. Algorytmy są coraz bardziej nieprzezroczyste. Nawet twórcy systemów często nie potrafią dokładnie wyjaśnić, dlaczego model wygenerował konkretną odpowiedź.

Co to oznacza dla biznesu?

Na przykład to, że decyzje o dużych konsekwencjach, finansowych, prawnych czy wizerunkowych, mogą opierać się na mechanizmach, których nikt w pełni nie rozumie.

Drugim ważnym przeświadczeniem jest to , że skoro system działa lepiej niż człowiek w wąskim zadaniu, to może zastąpić człowieka także w szerszym kontekście. Przykładowo: algorytm potrafi trafnie przewidywać popyt na produkt, więc uznaje się, że potrafi również zaprojektować strategię sprzedażową. To logiczny skrót, który ignoruje fakt, że biznes nie jest zbiorem niezależnych problemów optymalizacyjnych. To dynamiczny ekosystem zależności, wartości, celów i niejednoznaczności.

AI nie posiada intuicji ani rozumienia sensu działań.

Nie rozumie, czym jest reputacja marki, długofalowe zaufanie klienta czy moralny wymiar decyzji. Może symulować język, którym się o tym mówi, ale nie doświadcza tych pojęć. Jeśli przedsiębiorca zapomina o tej granicy, zaczyna delegować na algorytmy odpowiedzialność, której one nie są w stanie udźwignąć.

Szczególnie niebezpiecznym zjawiskiem jest ryzyko ślepego zaufania automatyzacji.

Psychologia zna ten efekt od lat: ludzie mają tendencję do przeceniania trafności systemów automatycznych, zwłaszcza gdy są one prezentowane jako zaawansowane. W kokpitach samolotów, w medycynie, w systemach finansowych, wszędzie tam obserwuje się spadek czujności operatorów, gdy maszyna przejmuje stery. W biznesie sytuacja wygląda podobnie.

Gdy algorytm codziennie generuje raporty, prognozy i rekomendacje, menedżer stopniowo przestaje je kwestionować. Zamiast pytać „dlaczego?”, zaczyna pytać „co dalej?”. Krytyczne myślenie ustępuje miejsca operacyjnemu reagowaniu na wyniki systemu. To subtelna, ale głęboka zmiana kulturowa: odpowiedzialność przesuwa się z człowieka na narzędzie.

Paradoks zaufania wobec AI

Dragan podkreśla, że to paradoks. AI nie jest podmiotem moralnym ani decyzyjnym, ale w praktyce zaczyna pełnić taką rolę. Gdy coś pójdzie źle, łatwo powiedzieć: „system się pomylił”. Tymczasem system nie podejmuje decyzji, robią to ludzie, którzy zdecydowali się mu zaufać.

W tym sensie największym zagrożeniem nie jest bunt maszyn ani przejęcie kontroli nad światem. Największym zagrożeniem jest erozja ludzkiej odpowiedzialności. Jeśli przedsiębiorcy uznają, że algorytm „wie lepiej”, przestają rozwijać własne kompetencje analityczne, strategiczne i etyczne. Firma staje się operatorem cudzej logiki, zamiast twórcą własnej wizji.

Książka „Quo vadis AI?” sugeruje zmianę perspektywy: zamiast pytać, jak bardzo inteligentne są maszyny, powinniśmy pytać, jak mądrze z nich korzystamy. AI jest narzędziem. Niezwykle potężnym, ale nadal narzędziem. Młotek nie jest odpowiedzialny za to, co nim zbudujemy lub zniszczymy. Podobnie algorytm nie jest odpowiedzialny za strategie biznesowe, które na nim opieramy.

Podejście do AI w biznesie polegające na bezkrytycznej automatyzacji wszystkiego, co się da, to błąd.

Lepiej projektować systemy, w których człowiek pozostaje w pętli decyzyjnej. Algorytm może wspierać, sugerować, analizować, ale ostateczna interpretacja i odpowiedzialność MUSI NALEŻEĆ DO CZŁOWIEKA.

Wbrew pozorom to dobra wiadomość. Oznacza bowiem, że przyszłość biznesu nie zależy wyłącznie od dostępu do najnowszych modeli czy największych mocy obliczeniowych. Zależy od jakości ludzkiego myślenia, pokory wobec ograniczeń technologii i odwagi, by nie mylić symulacji rozumienia z prawdziwym rozumieniem. AI jest lustrem, w którym odbijają się nasze własne złudzenia. Jeśli nauczymy się je rozpoznawać, technologia może stać się jednym z największych sprzymierzeńców rozwoju. Jeśli nie, stanie się wygodnym alibi dla błędów, których źródłem pozostanie człowiek.