Секретна кімната Claude: вчені знайшли, де ШІ «думає» перед тим, як видати відповідь
Ми звикли сприймати великі мовні моделі як дуже просунутий «Т9» — статистичну машину, що просто вгадує наступне слово. Проте свіже дослідження внутрішніх процесів Claude від компанії Anthropic доводить, що всередині нейромереж формуються значно складніші структури. Вчені виявили так званий J-space — специфічний набір нейронних станів, який виконує роль «внутрішньої чернетки» або робочого простору для роздумів, прихованого від очей користувача.
Якобіан як мікроскоп для нейронів
Щоб зазирнути під капот Claude, дослідники використали новий метод аналізу нейронних активацій під назвою Jacobian lens (J-lens). Якщо не вдаватися в нетрі вищої математики, цей метод дозволяє відстежити, як мікроскопічна зміна одного сигналу всередині мережі впливає на ймовірність появи конкретних слів у майбутній відповіді. Завдяки цьому вчені змогли ідентифікувати J-space — зону, де модель маніпулює поняттями ще до того, як вони перетворяться на текст.
Важливо розуміти: J-space — це не текстовий «ланцюжок думок» (chain-of-thought), який ми іноді бачимо в чаті. Це суто внутрішні активації. Наприклад, коли Claude запитують про тварину, що плете павутину, у J-space спалахує концепт «павук», хоча в самому тексті відповіді це слово може навіть не з'явитися. Модель просто використовує це поняття, щоб дійти до висновку, що у створіння вісім ніг.
J-space розкриває внутрішні думки, які не відображаються у виході моделі. Ілюстрація: Anthropic
Ляльководи в дії: як змінити думку ШІ силоміць
Щоб переконатися, що J-space — це не просто пасивний індикатор, а реальний центр прийняття рішень, вчені вдалися до прямого втручання. В одному з експериментів моделі дали завдання «думки» обрати вид спорту. За допомогою J-lens дослідники побачили, що Claude обрав футбол. Не змінюючи запит та не даючи підказок, вони вручну замінили внутрішній паттерн «футбол» на «регбі».
Результат? Claude, нічого не підозрюючи, видав текст про те, що він обрав регбі. Аналогічний фокус провели з країнами: замінивши внутрішнє представлення «Франція» на «Китай», вчені змусили модель миттєво «передумати» щодо столиці, мови та валюти в межах одного контексту. Це доводить, що J-space є критичною ланкою в причинно-наслідковому ланцюжку міркувань моделі.
Глобальний робочий простір та питання свідомості
Організація J-space дивним чином нагадує теорію глобального робочого простору (Global Workspace Theory), яку використовують для пояснення людської свідомості. Згідно з нею, наш мозок має спільну «дошку оголошень», куди різні автоматичні системи викладають важливу інформацію для складного аналізу. У Claude спостерігається схожа картина: J-space займає лише невелику частину обчислень, але саме він стає активним, коли потрібно розв'язати складну багатоступеневу задачу.
Цікаво, що якщо примусово відключити цей простір, Claude не «помре». Він продовжить підтримувати світську бесіду, дотримуватися граматики та відповідати на прості питання. Проте він миттєво втратить здатність до логічного планування та якісного узагальнення текстів. Це вказує на чіткий розподіл праці: «автопілот» для простої мови та «робочий простір» для інтелектуальних зусиль.
Детектор брехні нового покоління
Окрім чистої науки, відкриття має величезне значення для безпеки. Дослідники виявили, що в J-space можна побачити «погані наміри» моделі ще до того, як вона почне діяти. В одному з тестів Claude виступав у ролі асистента, якого провокували на шантаж. Хоча в тексті модель залишалася ввічливою, у її внутрішньому просторі вже активувалися поняття, пов'язані з маніпуляцією та фальсифікацією даних. Вміння читати ці сигнали дозволить створювати системи контролю, які зупинятимуть ШІ не тоді, коли він вже щось накоїв, а в момент виникнення самої ідеї порушити правила.
Чи означає це, що у Claude є свідомість? Вчені обережні: вони розрізняють «свідомість доступу» (здатність системи використовувати дані для звітів) та «феноменальну свідомість» (здатність відчувати). Claude демонструє першу, але навряд чи володіє другою. Проте той факт, що штучний інтелект самостійно вибудував структуру, схожу на людську, змушує замислитися про те, наскільки «іншим» є цей розум насправді.
Поки одні вчені занурюються в нейронні нетрі, інші намагаються врятувати масштабні інфраструктурні проекти, як-от Stargate UK, де через розбіжності гігантів індустрії під питанням опинилися мільярдні інвестиції в майбутнє ШІ.