«Вони грають із нашими життями»: чому провідний дослідник ШІ втік з Anthropic
Джейкоб Коксон (Jacob Coxon), людина, яка останні три роки провела «під капотом» OpenAI та Anthropic, вирішив грюкнути дверима. Його звільнення — це не просто зміна роботи, а публічне попередження про те, що індустрія штучного інтелекту мчить у прірву, ігноруючи елементарні інстинкти самозбереження.
Перегони без гальм
Коксон займався попереднім навчанням моделей — тобто обробкою гігантських масивів даних, на яких базується інтелект сучасних нейромереж. За його словами, ні OpenAI, ні Anthropic не діють відповідально. Замість того, щоб дбати про безпеку, компанії влаштували гладіаторські бої за право першими створити самовдосконалюваний сверхінтелект.
Джейкоб Коксон (Jacob Coxon). Ілюстрація: Freepressjournal.
Дослідник стверджує, що ми перебуваємо на шляху до створення систем, які люди просто не зможуть контролювати. Його бачення майбутнього виглядає як сценарій технотрилера: невдовзі ШІ перетвориться на «сверхлюдські системи», здатні зламати будь-який захист, отримати реальну владу та ресурси, а також змінити будь-яку галузь за одну ніч.
Жодна інша людська діяльність не становить такої небезпеки. Мені здається, ми не на правильному шляху, щоб запобігти глобальним перегонам, для чого можуть знадобитися дорогі заходи, такі як тимчасова заборона на поліпшення можливостей моделей.
Страх за зачиненими дверима
Найцікавіше в заяві Коксона — це розрив між публічним «обличчям» техгігантів та їхніми внутрішніми настроями. Поки керівники компаній у пресі намагаються виглядати розсудливими та спокійними, у приватних розмовах вони висловлюють серйозні побоювання. Дослідник наголошує: віра в те, що ШІ може знищити людство до кінця десятиліття — це не хитрий маркетинговий хід для привернення уваги, а реальний страх тих, хто ці системи створює.
Варто зазначити, що Anthropic свого часу заснували вихідці з OpenAI саме з метою створення «безпечного» ШІ. Проте, судячи з відчаю Коксона, концепція безпеки програла бажанню бути першим на ринку, де на кону стоять трильйони доларів та абсолютне технологічне домінування.
Поки одні дослідники тікають від апокаліпсиса, інші продовжують випробовувати межі можливостей систем. Наприклад, нещодавно OpenAI замахнулася на мільйон доларів, намагаючись змусити ШІ розв’язати складні математичні задачі.
