ChatGPT: Amazon запрещает своим сотрудникам делиться конфиденциальной информацией с ИИ-чатом
С тех пор, как исследовательская компания OpenAI, занимающаяся исследованиями в области искусственного интеллекта, выпустила ChatGPT в ноябре 2022 года, в области технологий больше ни о чем не говорили. В этом отношении гигант электронной коммерции (но не только) Amazon проявил бдительность и даже предупредил сотрудников, чтобы они не взаимодействовали с ChatGPT и не делились конфиденциальной информацией.
Amazon запрещает своим сотрудникам делиться конфиденциальной информацией с ChatGPT
Внутренний канал Amazon в Slack получил много вопросов от сотрудников о том, как использовать ChatGPT. Некоторые сотрудники спросили Amazon, существуют ли какие-либо официальные рекомендации по использованию ChatGPT на рабочих устройствах. Другие задавались вопросом, разрешено ли им работать с инструментами ИИ. Сотрудник призывает подразделение облачных вычислений Amazon, AWS, прояснить свою позицию в отношении использования «инструментов генеративного искусственного интеллекта (AIGC)».
после poco, к дискуссии присоединился корпоративный юрист Amazon. Скриншоты внутренних сообщений в канале Slack показывают, что юрист предупреждает сотрудников не предоставлять ChatGPT «любую конфиденциальную информацию Amazon», включая написанный код Amazon. Он также посоветовал сотрудникам следовать существующей политике компании о неразглашении информации, поскольку некоторые ответы ChatGPT оказались очень похожими на те, которые Amazon готовит внутри компании.
«Это очень важно, потому что ваши данные могут быть использованы в качестве обучающих данных для ChatGPT, и мы не хотим, чтобы их выходные данные содержали или выглядели как наша конфиденциальная информация», — написал юрист.
Эти обмены мнениями предполагают, что внезапное появление ChatGPT подняло много новых этических вопросов. ChatGPT — это диалоговый инструмент искусственного интеллекта, который отвечает на вопросы более четкими и умными ответами. Быстрое распространение ChatGPT может нарушить работу нескольких отраслей, включая средства массовой информации, научные круги и здравоохранение, что побудит к поиску новых вариантов использования чат-ботов и их возможного воздействия.
То, как сотрудники делятся конфиденциальной информацией с ChatGPT и что с ней делает его разработчик, OpenAI, может стать острой проблемой. Это особенно важно для Amazon, поскольку главный соперник Microsoft вложил значительные средства в OpenAI, включая новый раунд финансирования на этой неделе, который, как сообщается, оценивается в 10 миллиардов долларов.
Эмили Бендер, преподающая компьютерную лингвистику в Вашингтонском университете, сказала: «OpenAI далеко не прозрачен в отношении того, как он использует данные, но если данные используются для обучения, я ожидаю, что компании задумаются: после нескольких месяцев широкого использования ChatGPT , возможно ли получить конфиденциальную информацию частной компании через тщательно подготовленные запросы?»
В Amazon есть ряд внутренних мер безопасности для сотрудников, использующих ChatGPT. Например, скриншоты из биржи показывают, что когда сотрудники используют рабочие устройства для доступа к веб-сайту ChatGPT, появляется предупреждающее сообщение о том, что они собираются получить доступ к стороннему сервису, который «может быть не одобрен для использования Amazon Security».
Сотрудники, которые участвовали в чате канала Slack, сказали, что могут отклонить сообщение, просто щелкнув вкладку «Подтверждение». Персонал предположил, что всплывающее окно с предупреждением было сделано для того, чтобы сотрудники не могли вставлять конфиденциальную информацию в ChatGPT, тем более что они не видели политику компании в отношении внутреннего использования.
Однако некоторые сотрудники Amazon уже используют инструменты искусственного интеллекта в качестве программных «помощников по кодированию», чтобы помочь улучшить внутренние строки кода. «Я думаю, было бы здорово иметь эту функцию прямо сейчас. Так что любое руководство будет отличным», — написал сотрудник Amazon на канале Slack.
Другой сотрудник сказал, что они поделились вопросами интервью Amazon для открытой позиции программиста на ChatGPT. Согласно сообщению сотрудника в Slack, модель ИИ обеспечила правильные решения многих технических проблем. «Я одновременно обеспокоен и взволнован тем, как это повлияет на то, как мы проводим собеседования по программированию», — сказал он.
В целом сотрудники Amazon, участвовавшие в чатах канала Slack, были в восторге от потенциала ChatGPT и задавались вопросом, разрабатывает ли Amazon конкурирующий продукт. Юрист компании, который предостерег сотрудников от использования ChatGPT, сказал, что Amazon ускоряет разработку «аналогичной технологии», приводя в качестве примеров голосового помощника Alexa и службу рекомендаций по коду CodeWhisperer.
Сотрудник AWS написал, что служба поддержки компании недавно сформировала небольшую внутреннюю команду, чтобы «понять влияние продвинутого ИИ в чате на наш бизнес». Исследования показывают, что ChatGPT «очень хорошо» отвечает на вопросы службы поддержки AWS, включая, среди прочего, устранение неполадок в базе данных Aurora. В то же время он также отлично создает учебные материалы для экзамена на сертифицированного облачного архитектора AWS, отвечающие бизнес-целям клиента.
Растущее использование ChatGPT на работе поднимает серьезные вопросы о том, как OpenAI планирует использовать общие материалы с инструментами ИИ, сказал Бендер из UW.
