«Они играют с нашими жизнями»: почему ведущий исследователь ИИ сбежал из Anthropic
Джейкоб Коксон (Jacob Coxon), человек, который последние три года провел «под капотом» OpenAI и Anthropic, решил хлопнуть дверью. Его увольнение — это не просто смена работы, а публичное предупреждение о том, что индустрия искусственного интеллекта мчится в пропасть, игнорируя элементарные инстинкты самосохранения.
Гонки без тормозов
Коксон занимался предварительным обучением моделей — то есть обработкой гигантских массивов данных, на которых базируется интеллект современных нейросетей. По его словам, ни OpenAI, ни Anthropic не действуют ответственно. Вместо того чтобы заботиться о безопасности, компании устраивают гладиаторские бои за право первыми создать самоулучшающийся суперинтеллект.
Джейкоб Коксон (Jacob Coxon). Иллюстрация: Freepressjournal.
Исследователь утверждает, что мы находимся на пути к созданию систем, которые люди просто не смогут контролировать. Его видение будущего выглядит как сценарий технотриллера: вскоре ИИ превратится в «сверхчеловеческие системы», способные взломать любую защиту, получить реальную власть и ресурсы, а также изменить любую отрасль за одну ночь.
Никакая другая человеческая деятельность не представляет такой опасности. Мне кажется, мы не на правильном пути, чтобы предотвратить глобальные гонки, для чего могут понадобиться дорогие меры, такие как временный запрет на улучшение возможностей моделей.
Страх за закрытыми дверями
Наиболее интересное в заявлении Коксона — это разрыв между публичным «лицом» техгигантов и их внутренними настроениями. Пока руководители компаний в прессе пытаются выглядеть благоразумными и спокойными, в приватных разговорах они выражают серьезные опасения. Исследователь подчеркивает: вера в то, что ИИ может уничтожить человечество к концу десятилетия — это не хитрый маркетинговый ход для привлечения внимания, а реальный страх тех, кто создает эти системы.
Стоит отметить, что Anthropic в свое время основали выходцы из OpenAI именно с целью создания «безопасного» ИИ. Однако, судя по отчаянию Коксона, концепция безопасности проиграла желанию быть первым на рынке, где на кону триллионы долларов и абсолютное технологическое доминирование.
Пока одни исследователи бегут от апокалипсиса, другие продолжают испытывать пределы возможностей систем. Например, недавно OpenAI замахнулась на миллион долларов, пытаясь заставить ИИ решить сложные математические задачи.