OpenAI: вот новое тело для безопасного будущего ИИ
OpenAI, компания искусственного интеллекта, поразившая мир своими инновациями, формируется новый отраслевой орган. Цель? Содействовать безопасной и ответственной разработке передовых систем искусственного интеллекта. Это важный шаг, поскольку и правительства, и промышленность согласны с тем, что, несмотря наИИ предлагает огромные перспективы на благо мирадля снижения рисков требуются адекватные меры безопасности.
OpenAI, Anthropic, Google и Microsoft: три ключевые области безопасного будущего ИИ
Il Форум моделей Frontier (это название) сосредоточится на трех ключевых областях в предстоящем году, чтобы поддержать безопасную и ответственную разработку передовых моделей ИИ. Прежде всего, выявит передовой опыт, содействие обмену знаниями между промышленностью, правительствами, гражданским обществом и академическими кругами. Во-вторых, он будет поддерживать исследования в области безопасности ИИ, определяя наиболее важные исследовательские вопросы в этой области. В конце концов, это облегчит обмен информацией между компаниями и правительствами, создание безопасных и надежных механизмов для обмена информацией, связанной с безопасностью и рисками ИИ.
См. также: OpenAI представляет Superalignment: как ИИ может следовать человеческим намерениям
Общая приверженность безопасному будущему ИИ
Многие лидеры отрасли выразили свой энтузиазм по поводу этой инициативы. Кент Ходунки, президент по глобальным вопросам в Google & Alphabet, сказал: «Мы рады работать вместе с другими ведущими компаниями, обмениваясь техническими знаниями для внедрения ответственных инноваций в области искусственного интеллекта. Мы все должны работать вместе, чтобы ИИ приносил пользу всем". Также штифтик Smith, вице-президент и президент Microsoft, подчеркнул важность этой инициативы: «Компании, создающие технологию искусственного интеллекта, несут ответственность за то, чтобы она была безопасной, защищенной и оставалась под контролем человека. Эта инициатива является ключевым шагом к объединению технологического сектора для ответственного продвижения ИИ и решения проблем таким образом, чтобы это принесло пользу всему человечеству.».
Анна Кандзю, вице-президент по глобальным вопросам OpenAI, подчеркнул, что передовые технологии искусственного интеллекта могут принести огромную пользу обществу. Он утверждал, что реализация этого потенциала требует надзора и управления. Он подчеркнул важность того, чтобы компании, работающие с ИИ, особенно те, которые работают над самыми мощными моделями, выстраивались на общих основаниях и продвигали продуманные и адаптируемые методы обеспечения безопасности. Это, сказал он, это гарантирует, что мощные инструменты ИИ будут иметь максимально возможное преимущество. Он подчеркнул, что это срочная работа и что у форума есть все возможности для быстрых действий по улучшению состояния безопасности ИИ.
