Показать меню
04 ноя 18:17Общество

О необходимости создания международных правил для регулирования развития ИИ заявили эксперты

О необходимости создания международных правил для регулирования развития ИИ заявили эксперты

Накануне первого мирового саммита, посвященного безопасности ИИ, эксперты, в том числе ведущий эксперт в области безопасности и управления ИИ в Китае Йи Цзэн, старший научный сотрудник Google DeepMind и соучредитель Института будущего жизни (FLI) Виктория Краковна, обладатель премии Тьюринга и пионер ИИ Йошуа Бенджио, известный когнитивист Гари Маркус, а также член правления ведущей лаборатории ИИ Anthropic Люк Мюльхаузер, подписали открытое письмо. В нем содержится призыв к «разработке и ратификации договора о безопасности ИИ, который получит широкое одобрение во всем международном сообществе, созданию рабочей группы на Саммите по безопасности ИИ в Великобритании при широкой международной поддержке для разработки плана для этого.” 

Такой международный договор о безопасности ИИ должен включать несколько основных компонентов, в том числе: 

  • Всемирные ограничения на объем вычислений для обучения какой-либо модели ИИ. 
  • “ЦЕРН” по безопасности ИИ: масштабное совместное объединение ресурсов, опыта и знаний в деле безопасности ИИ. 
  • Комиссию по соблюдению договора: она должна отвечать за мониторинг соблюдения договора, ее роль должна быть аналогична роли Международного агентства по атомной энергии (МАГАТЭ). 

Целями такого договора являются: 

  • Снижение катастрофических рисков, которые системы искусственного интеллекта представляют для человечества, путем предотвращения бесконтрольного масштабирования возможностей искусственного интеллекта. 
  • Обеспечение доступа к благам ИИ для всех людей. 

Эта коалиция научных экспертов, лидеров бизнеса и государственного управления примечательна тем, что находится в авангарде международного регулирования ИИ: некоторые из подписавшихся лиц входят в Консультативный орган высокого уровня ООН по ИИ или входят в число немногих избранных экспертов, приглашенных на Международный саммит по безопасности ИИ, который состоялся в Лондоне 1 и 2 ноября 2023 года. 

Китайский учёный Йи Цзэн заявил: «Мы не можем знать, каким образом и как ИИ может принести нам катастрофические риски, просто потому что без очень серьезного и тщательного проектирования модели и архитектуры могут развиваться непредсказуемым образом. И именно поэтому нам как человеческому сообществу необходимо сотрудничать и выяснять потенциальные пути и различные угрозы и по возможности готовиться». Йи Цзэн добавил: «Для договора по искусственному интеллекту нам нужен глобальный консенсус и глобальное содействие, начиная с крупнейших держав в области искусственного интеллекта, ведущих исследователей искусственного интеллекта и компаний, чтобы показать и привести мир к лучшему будущему, делясь тем, как разрабатывать и внедрять системы ИИ, ставящие безопасность во главу угла, не оставляя никого позади».

 

Инициативу открытого письма возглавил британский прогнозист Толга Билге.

Добавить комментарий
Ваше Имя:
Ваш E-Mail:
Введите два слова, показанных на изображении: *
Лента новостей
НТЦ KAMA TYRES получил награды за качество оказываемых услуг02:42В Тюмени дети 6-11 лет узнали о профессиях пожарного, строителя, бизнесмена и инженера от своих пап20:59КЛЮЧАВТО вошел в топ-3 по выручке по направлениям сервиса и автомобилей с пробегом14:58JTI и Институт ИИ НИУ ВШЭ создадут инновационную IT-инфраструктуру для внедрения ИИ-решений00:21Историко-патриотические романы и их влияние на будущее России17:52SportZania запустила новогодний розыгрыш17:38Путь иллюзий: история Алекса Крэй15:36Компания «Мария» обеспечила кухонной мебелью школу №20 им. М. И. Кулькиной в Энгельсе22:16Патенты и принудительное лицензирование: какие последствия ждут экономику России?21:04Парк Победы на Поклонной горе станет центром новогодних чудес на фестивале «Ледовая Москва»20:24Компания «2Б Диалог» признана лучшей в оценке проблемных активов19:30Ранние пташки: кто уже сейчас начал запасаться продуктами к Новому году12:57Проект «Практика» завершает свою реализацию03:09В Москве пройдут крупные мероприятия в рамках программы «Социокультурные проекты»19:41Проблему просроченной ипотечной задолженности нужно анализировать в масштабах страны09:49В рамках проекта «Искусство нашего времени» создан интересный контент21:10Секреты успешной покупки жилья в Сингапуре: советы риэлтора20:19Деревянная архитектура и инновации: «РОССА РАКЕННЕ СПб» объявлена лауреатом премии «Стиль жизни 2024»11:51
Популярные новости
Выбор редакции