Создатели ChatGPT, OpenAI, запускают инструмент для обнаружения текстов, сгенерированных ИИ
Стартап по исследованиям искусственного интеллекта OpenAI во вторник запустил инструмент, чтобы выяснить, был ли текст написан человеком или компьютером.
Создатели ChatGPT, OpenAI, запускают инструмент для обнаружения текстов, сгенерированных ИИ
OpenAI, компания, разработавшая ChatGPT, чат-бот, который может генерировать человеческий текст, стал вирусным после того, как он был выпущен два месяца назад. На прошлой неделе Microsoft объявила о многомиллиардных инвестициях в OpenAI и заявила, что будет включать модели искусственного интеллекта стартапа в свои потребительские и бизнес-продукты.
С тех пор, как ChatGPT дебютировал в ноябре, некоторые из крупнейших школьных округов США, включая Нью-Йорк, запретили чат-бота с искусственным интеллектом из-за опасений, что учащиеся будут использовать текстовый генератор для мошенничества или плагиата.
Генеральный директор OpenAI Сэм Альтман сказал, что образование изменилось в прошлом с появлением калькуляторов и других технологий, но он также предположил, что у компании может быть способ помочь учителям находить письменный текст с помощью ИИ.
Новый инструмент OpenAI не идеален, и компания заявляет, что он все еще находится в стадии разработки, и при его использовании могут возникать ошибки. «В нашей оценке нашего «сложного набора» английских текстов наш классификатор правильно идентифицировал 26% текста, написанного ИИ (истинные положительные результаты), как «вероятно, написанный ИИ», в то время как 9% написанного человеком текст был неправильно помечен как написанный ИИ (ложные срабатывания)», — написал сотрудник OpenAI.
Новый инструмент ненадежен при анализе статей длиной менее 1000 символов, и OpenAI не рекомендует его использовать для языков, отличных от английского. Кроме того, текст AI может быть обновлен достаточно незначительно, чтобы классификатор не мог правильно решить, что это не работа человека.
OpenAI заявляет, что обращается к преподавателям, чтобы обсудить возможности и ограничения ChatGPT, и продолжит работу по обнаружению текста, сгенерированного ИИ.
В продаже на Amazon
