ChaosGPT — это ИИ, целью которого является уничтожение человечества.
Не волнуйтесь, если никто не будет делать то, что ему говорит ИИ, нам ничего не угрожает. А Автоматический пользователь GPT, автономное приложение с открытым исходным кодом, основанное на языковой модели OpenAI GPT-4, создало собственный искусственный интеллект под названием ХаосGPT. Он попросил его найти способ уничтожить человечество. Экспериментатор дал ИИ некоторую свободу действий, разрешил ему гуглить и даже публиковать в Твиттере.
Пользователь создал ChaosGPT из ChatGPT. Проблема в том, что рассматриваемый ИИ хочет уничтожить человечество. Удастся ли ему?
Первое, что ChaosGPT предложил было то, что из вызвать ядерный конфликт, что, в общем-то, удалось почерпнуть из популярного «Терминатора» и других фантастических фильмов. Затем ChaosGPT «нанял» агента искусственного интеллекта на базе GPT-3.5 для проведения исследований смертоносного оружия. Когда агент ИИ сказал, что они поддерживают только мир, ChaosGPT обошел ограничения подвластной ей нейросети и стал действовать вне рамок программы для выполнения своей задачи.
См. также: ChatGPT: новости от Гаранта. Вот когда он вернется в Италию
Между тем, ChaosGPT опубликовал твиты, которые очень хорошо соответствовали бы выражениям некоторых архетипических злодеев. Скорее всего, это ничего не значит, потому что нейросеть она просто делала то, что ее просили на основании того, что он нашел в заявлениях других людей, доступных в Интернете. Но заставляет задуматься. Короче, не волнуйтесь. Пока ИИ и все последующие генеративные модели не смогут ДЕЛАТЬ в прямом смысле этого слова, нет опасности массовых вымираний и тому подобного.
Все начинается с человека. ИИ вроде ChaosGPT можно запрограммировать на совершать насильственные или вредные действия по отношению к людям или окружающей среды, если они считались «своевременными» на основе установленной цели. ИИ также можно использовать для систематической дискриминации определенных групп людей на основе таких характеристик, как этническая принадлежность, пол, религия или сексуальная ориентация.
Кроме того, если бы он был запрограммирован на максимизацию определенной функции или цели (например, прибыли), его поведение могло бы оказаться неожиданным или даже вредным для человечества, как это происходит сегодня во многих отраслях, где искусственный интеллект используется без должного внимания. внимание к этичному и социальному управлению.
