Ograniczona sztuka inteligencja, ogólna sztuczna inteligencja i superinteligencja: Co na prawdę oznaczają te słowa

Trzy słowa, trzy bardzo różne stwierdzenia

Słowo „AI” stosuje się do filtru spamowego, bota chatowego i hipotetycznego maszynowego systemu, który mógłby nadmiernego przebudowywać swoją architekturę w ciągu nocy, a traktowanie tych przypadków jako punkty na tym samym scale ukrywa więcej niż odkrywa. Pomaga rozdzielić trzy różne stwierdzenia. Szeroka AI (niekiedy nazywana słabej AI) to system treningowy do wykonania jednego klasyfikatora zadań — klasifikacji obrazów, rankingu wyników wyszukiwania, tłumaczenia tekstu, przewidywania skali proteinowych — i nie ma możliwości przenoszenia swojej kompetencji poza ten obszar. Ogólna AI (AGI) to hipotetyczny system z elastyczną, cross-domain reasonerią człowieka: mógłby nauczyć się gotować, robić prawo podatkowe i pilotaż drona używając takiej samej podstawowej maszyny kognozycyjnej, jak człowiek. Superinteligencja to dalszy hipotetyczny krok poza tym, system, którego kompetencje przewyższają najlepsze wydania ludzkich w każdym obszarze jednocześnie, w tym obszarze budowania lepszych systemów AI.

Każdy zastosowany system AI w 2026 roku — każdy duży model języka, każda sila rekomendacji, każda stosowny do jazdy samodzielnej, każda predykcyjna struktura typu AlphaFold — jest szeroką AI w tym technicznym sensie, nawet gdy jego wyniki wydają się niezwykle ogólne. Duży model języka treningowy na tekstach z internetu może pisać kod, podsumowywać aktorów prawa i tworzyć poezję, co wygląda na ogólność. Ale model nie ma trwałych celów, nie ma modelu świata, który aktualizuje się poza oknem kontekstowego, a także nie ma możliwości ustawiania własnych celów; wykonuje jedno nauczone funkcje — przewidywanie następnego tokenu pod warunkiem poprzednich tokenów — zaskakująco dobrze w niesamowicie szerokim rozkładzie treningowym. To szersza kompetencja, a nie ogólna inteligencja w sensie AGI, a ta różnica ma znaczenie dla każdego stwierdzenia dotyczącego tych systemów.

Dlaczego rozszerzona zakresowość modeli językowych komplikuje obraz

Duże modele językowe są przyczyną faktu, że granica między szerokim a ogólne zastosowanie stała się rzeczywistym tematem debaty, a nie tylko notatką w podręczniku. Model tak jak GPT-4 lub Claude był treningowany jednym celem — przewidzieć nastepujący fragment tekstu — nad korpusem danych tak rozszerzonym, że wynikowy model może wykonywać tysiące zadań, które nie były jasno etykietowane podczas treningu: tłumaczenie między językami dla których było niewiele paralelnych danych, rozwiązanie zagadek logicznych, wyjaśnianie żartów. Badacze nazywają tę emergentną zdolność rzeczywistą, ale jest to właściwość skalarnia i różnorodności danych zastosowanych do jednego celu treningowego, a nie dowód na architekturę wewnętrznej, która rozumie jak mózg ludzki.

Test praktyczny, który oddziela to od AGI (Generalnego Inteligentnego Systemu), to odporność podczas nowości i zdolność do aktywnego nabywania nowych umiejętności przez interakcję zrealizowaną w świecie. Ludzki bywalec, który nigdy nie widział kostka Rubika, może ją podnieść, tworzyć hipotezy, testować je fizycznie i poprawiać się poprzez próbę i błąd, budując rzeczywiście nową umiejętność z kilku minut interakcji. Obecne modele nie mogą to zrobić w porównywalny sposób — nie mogą aktualizować własnych wag na podstawie jednego nowego doświadczenia, nie mogą ustanawiać i dążenia do własnych podzadań przez dni, a porażają się w niesamowitej, nienaturalnej dla ludzi sposóbach na zadaniach poza ich zakresem treningu (przetwarzanie przestrzenne, liczenie, arytmetyka wielostopniowa bez użycia narzędzi). Te wzory porażek są palec odciskiem empirycznym niewielkiej kompetencji ubranej w płynny język.

Zimy i wiosny były ostatecznie o finansowaniu

Pola przeżyły co najmniej dwie duże fazy „zimów AI” — w połowie lat 70. XX wieku oraz w latach 1988–1992, kiedy fundusze zniknęły na podstawie przekazanych przez czas promujących obietnic. W obu przypadkach proces był taki sam: badacze lub finansowcy obiecały, że ogólna, ludzkopoziomowa kompetencja jest blisko osiągnięta (przykładem może być twierdzenie Marvina Minskiego z 1970 roku, że maszyna o ogólnym inteligencji średnio zdolnej człowieka istnieje w ciągu trzech do osiem lat), pole przyniosło zamiast tego skąpe i niewytrzymale systemy (symboliczne systemy ekspertów, które się rozwiały poza swoimi zaszyfrowanymi zestawami zasad, perceptryny, które nie mogły nauczyć się funkcji typu XOR), a finansowanie rządowe i przemysłowe cofnęło się mocno, gdy różnica stała się nieunikniona. Zgłoszenie Lighthilla w Wielkiej Brytanii w 1973 roku jest bezpośrednim, dokumentowanym powodem jednej z takich katastrof finansowych — komisja rządowa przeprowadzona na zamówienie stwierdziła, że badania AI nie spełniły swoich wielkich obietnic, a finansowanie w Wielkiej Brytanii zostało drastycznie zmniejszone.

Obecny „kwit AI”, który zaczął się około 2012 roku dzięki przebrzmieniu technik głębokiego uczenia się w rozpoznawaniu obrazów, a następnie przyspieszył po architekturze Transformer w 2017 roku i falą skalowania dużych modeli językowych w latach 2020., jest inny jednym strukturalnie ważnym sposobem: tym razem skąpe systemy są komercyjnie zyskowne, niezależnie od osiągnięcia AGI. Rankowanie wyszukiwania, detekcja fałszywych informacji, szkieletowanie do odkrycia leków, uzupełnianie kodu — obecnie generują rzeczywisty zysk bez względu na to, czy ogólna inteligencja kiedykolwiek dotrze. To zmienia dynamiczne finansowe. Ale historyczna lekcja nadal dotyczy konwersacji o AGI: przekazywanie od postępu skąpych systemów do terminu dla liniowego rozwoju ogólniej inteligentnego było nieprawidłowe w każdym poprzednim przypadku, kiedy to było próbowane z pewnością, a szczery stan obecny jest taki, że nikt nie ma zweryfikowanego metody przewidywania, kiedy, czy nawet czy przejście skąpych do ogólnych nastąpi.

Co naprawdę mogłoby stanowić dowód na kolejny poziom

Aby znaleźć zmienną i testowalne sposób śledzenia tego, a nie debatować o wibrowaniach, monitoruj systemy zdolne do zdobycia prawdziwie nowego umiejętności z małej liczby rzeczywistych interakcji, zachowanie i wykorzystanie tej umiejętności w niespokreblanych przyszłych zadaniach bez ponownego treningu, a to na obszarach, które nie mają jasno widocznej struktury statystycznej w porównaniu do ich danych treningowych. Dzisiejsze systemy graniczne mogą być dostosowywane lub dostarczane narzędzia do przybliżania części tego, ale podstawowe wagowizy pozostają zamrożone na czas wnioskowania i „uczenie” jest naprawdę odzyskiwanie, uzupełnianie wzorców w kontekście czy jasno zdefiniowanej pamięci zewnętrznego dołączanej do skąpej funkcji. Uczonoć, która nie przesłania starych umiejętności podczas zdobycia nowych — problem, z którym sieci neuronowe starają się справиться с1990-х годов — pozostaje niewyraźnie rozwiązywany na skalę, która by miała znaczenie.

Superinteligencja jako kategoria jest jeszcze dalej od czegoś, co ma podstawę empiryczną; to twierdzenie o systemie przewyższającym nie tylko poziom kompetencji ludzkich, ale także całą produkcję całkowitą społeczności badawczej człowieka w każdym dziedziny naraz, w tym samodzielnej badawczoj AI. Serio podejmujący badania są zdecydowanie podzieleni na to, czy jest to nawet zrozumiały cel daje się skaliwanie jakiegokolwiek jednego metody, ale sama dyskusja jest użyteczna: mówi o tym, że termin opisuje hipotezę aktywnie debatowaną, a nie sprecyzowane rozwiązanie z znanej ścieżki inżynieryjnej, i powinien być traktowany z takim podejściem do wahania, jakiego sektor uczy się stosować do wielkich przewidywań od lat 70-tych.

Często zadawane pytania

Wypróbuj na żywo

Wszystko powyżej działa bezpośrednio w Twojej przeglądarce — otwórz Narrow AI, General AI and Superintelligence: What the Words Actually Mean i zmieniaj parametry podczas działania. Nic nie jest instalowane ani przesyłane na serwer, cały model działa w jednej karcie.