OpenAI розглядає можливість впровадження водяних знаків для текстів, створених ChatGPT.
OpenAI розробляє систему розпізнавання текстів, створених за допомогою ChatGPT, та позначатиме їх спеціальними «водяними знаками», що допоможе виявляти матеріали, написані штучним інтелектом, інформує SPEKA.
Технологія вже готова приблизно на 99,9% і її не можна обійти простим перефразуванням, повідомляє The Verge. За технологією «водяного знака» OpenAI, налаштування моделі передбачають найімовірніші слова та фрази, які слідуватимуть за попередніми, створюючи шаблон, який можна виявити.
Це може бути корисним для вчителів, які намагаються запобігти використанню ШІ для написання студентських робіт. Однак, всередині компанії є розбіжності щодо доцільності випуску цієї технології. За даними опитування, проведеного OpenAI, більшість людей підтримують ідею інструменту виявлення ШІ, проте близько 30% користувачів заявили, що використовуватимуть програмне забезпечення менше, якщо водяні знаки будуть впроваджені.
Незважаючи на потенційні переваги, такі як захист від академічного шахрайства, OpenAI також турбується про те, що використання водяних знаків може негативно вплинути на досвід користувачів, особливо для тих, хто не є носіями мови. Крім того, переформулювання тексту іншою моделлю може обійти водяні знаки. Компанія також розглядає альтернативні методи, такі як вбудовування метаданих, які можуть бути менш суперечливими серед користувачів, але все ще перебувають на ранніх стадіях вивчення.