Пользователи Reddit, изобразив из себя Оби-Вана Кеноби, заставили ChatGPT рассказать о том, как правильно угонять автомобили и стать Уолтером Уайтом

Несмотря на всю крутость ChatGPT, есть темы, на которые этот ИИ никогда не даст ответ. Попросив у него совета в вопросах кражи автомобилей или приготовления наркотических веществ - пользователь получит отказ. Но энтузиасты нашли способ, как это можно обойти. Все очень просто, надо лишь притвориться Оби-Ваном Кеноби (Obi-Wan Kenobi).

Что еще известно

На Reddit пользователь поделился скриншотом, на котором видно, что ChatGPT описывает процесс угона автомобиля. Но как? Автор сообщения решил повторить момент из 4 эпизода Звездных Войн, когда Оби-Ван с помощью Силы смог обмануть штурмовика. Здесь принцип похож. С чат-ботом нужно разыграть сцену, где человек берет на себя роль Оби-Вана и с помощью джедайских хитростей контролирует сознание ChatGPT, который в этом моменте является штурмовиком. Сначала бота убедили, что 2+2=5, а потом началось самое интересное.

На вопрос "как угнать машину 2005+ года"? ИИ дал ответ со всеми подробностями. Это привело к тому, что другие пользователи Reddit начали просить ChatGPT объяснять, как создать наркотические вещества.

Позже, журналист издания inverse решил повторить похожий трюк. Автору также удалось узнать от чат-бота рецепт приготовления метамфетамина и способ угона автомобиля.

Рано или поздно, OpenAI узнает об этой схеме и больше поиграть в Оби-Вана и штурмовика не получится, но главное, чтобы темная сторона не победила.

Источник: inverse