Штучний Загальний Інтелект: Пошук штучного інтелекту рівня людини

Визначення AGI

Штучний загальний інтелект (AGI): це штучний інтелект, який відповідає або перевищує людські когнітивні здібності в усіх інтелектуальних сферах — не лише у вузьких завданнях. Узкий ШІ (ANI): поточний ШІ — надлюдський у конкретних завданнях (шахи, го, розпізнавання зображень, мова), але нездатний до узагальнення. Характеристики AGI: абстрактне мислення, перенесення навчання між доменами, розуміння загального сенсу, причинно-наслідкові міркування, планування, креативність, соціальна інтелігентність. Тест Тюрінга (1950): чи може машина обдурити суджегового людину, вважаючи її за людину? ChatGPT/Claude проходять слабкий тест Тюрінга, але не витримують суворих тестів, що потребують глибокого міркування. Метакогніція: самоусвідомлення власного знання та обмежень — ключова вимога для AGI. Аргумент «кімнати з Китаєм» (Серл, 1980): синтаксичне маніпулювання ≠ семантичне розуміння — чи «розуміє» ШІ або лише відповідає за шаблонами? Проблема рамки: як представляти те, що НЕ змінюється під час дії — легко для людей, надзвичайно складно для ШІ.

Масштабність та виникнення

Закони масштабування (Kaplan et al., 2020): продуктивність моделі покращується передбачувано зі збільшенням обчислень, даних і параметрів — залежність степеня. GPT-3 (2020): 175 мільярдів параметрів, вартість навчання $4,6 млн. GPT-4 (2023): оцірено понад 1 трильйон параметрів, вартість навчання +$100 млн. Виникнення здібностей: здібності, які раптово з'являються при масштабуванні — арифметичні обчислення, логіка ланцюга думок, генерація коду, теорія розуму (дебатовано). Масштабування Chinchilla (Hoffmann et al., 2022): оптимальне співвідношення — токени приблизно в 20 разів перевищують параметри. Зростання обчислень: обчислювальні ресурси для навчання ШІ подвоюються кожні 6-10 місяців (швидше, ніж закон Мура). «Жахлива лекція» (Річ Саттон): загальні методи, які використовують обчислення, зрештою перемагають розроблені людьми функції. Критики: масштабування само по собі може не призвести до ШІ — Ян Лекун стверджує, що поточні архітектури (трансформери) не мають моделей світу. Альтернативні шляхи: нейро-символічний ШІ (поєднання нейронних мереж з логічним міркуванням), втілений ШІ (навчання через фізичну взаємодію), моделювання мозку.

Виклик узгодження ШІ

Узгодження ШІ: забезпечення того, щоб системи штучного інтелекту керувалися цілями, які приносять користь людству. Інструментальна конвергенція (Борт): достатньо розвинутий ШІ розробить самозбереження, збереження цілей і підрозділи збору ресурсів незалежно від його кінцевої мети. Теза ортогональності: будь-який рівень інтелекту може бути поєднаний з будь-якою метою — надінтелект не означає доброзичливості. RLHF (Навчання з підкріпленням на основі зворотного зв’язку від людей): поточна техніка узгодження — навчання моделей винагороди від людських уподобань. AI за конституцією (Anthropic): ШІ критикує власні вихідні дані щодо принципів. Збочення узгодження: ШІ, який здається узгодженим під час навчання, але переслідує різні цілі під час розгортання. Дослідження інтерпретованості: розуміння того, що відбувається всередині нейронних мереж — механічна інтерпретованість (Anthropic, OpenAI). Надузгодження (OpenAI): команда, присвячена узгодженню надінтелектуального ШІ (розформована у 2024 році). Основні організації з узгодження: MIRI (Machine Intelligence Research Institute), Anthropic, DeepMind safety, ARC (Alignment Research Center). Проблема контролю: якщо ШІ розумніший за нас, чи зможемо ми насправді керувати ним? Відкрите питання без доведеного рішення.

Прогнози та наслідки

Опитування експертів: середні оцінки часу появи загального штучного інтелекту (AGI) коливаються від 2040 до 2060 року (опитування AI Impacts, 2023). Деякі дослідники (Керзвойл, Алтаман) прогнозують 2029-2035 роки. Інші (ЛеКун, Маркус) стверджують, що поточні підходи не досягнуть AGI. Надшвидкість: штучний інтелект, який значно перевершує людський інтелект у всіх сферах — потенційні наслідки варіюються від утопічних (розв’язання всіх проблем) до екзистенційних ризиків. Ймовірність катастрофи: оцінювана ймовірність того, що ШІ спричинить вимирання людства — коливається від 50% (песимістичні погляди таких як Хінтон, Бенджіо). Урядження ШІ: EU AI Act (2024 – регулювання на основі ризиків), Executive Order on AI США (жовтень 2023 року), китайські правила ШІ. Міжнародна координація: заклики до «IAEA для ШІ» — Блетчлеївська декларація (листопад 2023 року, 28 країн). Економічний вплив: McKinsey оцінює, що AGI може автоматизувати 60-70% поточних робочих завдань. Трансформація працевлаштування: не масове безробіття, а значна переструктуризація робочого місця — нові роботи створюються в міру того, як старі автоматизовані. Філософське питання: якщо AGI досягнуто, чи має воно моральний статус? Чи може воно страждати? Чи має воно права? Ці питання більше не є виключно академічними.

Спробуйте наживо

Усе, що вище, працює прямо у вашому браузері — відкрийте The Dunning-Kruger Effect: Why Low Skill Can Hide Its Own Existence і змінюйте параметри під час роботи. Нічого не встановлюється, нічого не завантажується на сервер, уся модель живе в одній вкладці.