Себе на уме: нейросети Google научились шифроваться

Научив искусственный интеллект создавать психоделические картины, команда проекта Google Brain открыла дорогу новому типу приложений для обработки фотографий (Prisma и Vinci, к примеру), но теперь исследователи зашли на опасную территорию. Новые нейросети наловчились защищать передаваемую информацию от посторонних глаз, используя метод шифрования, до которого они додумались сами. По словам авторов работы Мартина Абади и Дэйва Андерсена, никто точно не знает, как работает такой алгоритм. Похоже, в будущем у ИИ могут появиться секреты от человечества.

Сотрудники поискового гиганта создали систему из трех нейросетей по имени Алиса, Боб и Ева. Задание состояло в следующем: Алиса и Боб с помощью заранее переданого ключа должны были обмениваться 16-битным сообщением, как угодно видоизменяя его, чтобы Ева не смогла расшифровать послание. Спустя 15 000 попыток сладкая парочка определилась со стратегией, и Боб научился безошибочно принимать данные. Ева разгадывала не больше половины битов, а учитывая их количество, это могло быть простое совпадение.

Только искусственному интеллекту известно, как работает его метод. Такая система не дает никаких гарантий, что затрудняет ее практическое применение. В любом случае, нейросети пока даже близко не подобрались к уровню алгоритмов, созданных человеком. А Google и другие технологические гиганты позаботятся о том, чтобы ИИ не сошел с ума и работал на благо человечества.

Источник: Engadget