Новости технологий

Студент создал искусственный интеллект, который смог обмануть хакеров

Студент создал искусственный интеллект, с помощью которого была написана статья и размещена в хакерском издании

Студент колледжа в Беркли Лиам Порр пытался продемонстрировать, что контент, создаваемый GPT-3, может заставить людей поверить в то, что он написан человеком. По его словам, это «оказалось очень просто, и это было самое страшное»

Для эксперимента ему потребовалась программа GPT-3 от разработчика Open AI. По сути, GPT-3 автоматически дополняет текст на основе подсказок от писателя-человека. «Как и все системы глубокого обучения, GPT-3 ищет закономерности в данных. Чтобы упростить задачу, программа была обучена на огромном корпусе текста, который был добыт для выявления статистических закономерностей. Эти закономерности неизвестны людям, но они хранятся в виде миллиардов взвешенных соединений между различными узлами нейронной сети GPT-3. Важно отметить, что в этом процессе не участвует человек: программа ищет и находит шаблоны без каких-либо указаний», — отмечается в описании алгоритма.

OpenAI решила предоставить доступ к GPT-3 исследователям в частной бета-версии, а не выпускать его в открытый доступ. Порр, который изучает информатику в Калифорнийском университете в Беркли, смог найти аспиранта, у которого уже был доступ к API и который согласился работать с ним над экспериментом. Порр написал сценарий, который давал GPT-3 заголовок и вступление в блог. Он сгенерировал несколько версий сообщения, и Порр выбрал для блога одну, скопированную из версии GPT-3 с очень небольшим редактированием. Для публикации пришлось выдумать фейкового автора и дать ему псевдоним Адолос.

По словам Порра, сообщение стало вирусным за несколько часов, а блог посетили более 26 000 человек. Он написал, что только один человек задался вопросом, было ли сообщение создано искусственным интеллектом, но этот комментарий «заминусовали». Вскоре заметка Адолоса, посвященная чрезмерному размышлению, выбилась в топ портала Hacker News и заняла там первое место.

Гелена Деревянко