Одним из первых действий Дональда Трампа на посту президента США стала отмена исполнительного указа, подписанного администрацией Джо Байдена в октябре 2023 года. Этот указ был направлен на разработку мер безопасности для развития технологий искусственного интеллекта (ИИ), включая генеративные модели ИИ и их применение в сфере здравоохранения. Указ Байдена обязывал Министерство здравоохранения и социальных служб (HHS) фиксировать случаи небезопасного использования ИИ в медицине, а также поручал Национальному институту стандартов и технологий (NIST) создать Институт безопасности ИИ. Этот институт должен был стать центром технической экспертизы для будущих регуляторных инициатив в области ИИ. Среди задач NIST было установление стандартов для тестирования ИИ-моделей, включая так называемое «краснокомандное тестирование» (red-team testing), направленное на выявление уязвимостей и предотвращение предвзятости в алгоритмах. Кроме того, институт должен был разработать рекомендации по использованию ИИ в биотехнологиях, например, для компьютерного проектирования новых лекарственных соединений. После отмены указа судьба этих инициатив остается под вопросом. Ранее, в августе 2023 года, Институт безопасности ИИ заключил соглашения с компаниями Anthropic и OpenAI о сотрудничестве в области исследований безопасности, тестирования и оценки ИИ-моделей. Также институт провел технические консультации с Европейским офисом по ИИ для обмена опытом и обсуждения рисков, связанных с развитием технологий. Отмена указа Трампом может замедлить процесс внедрения регуляторных мер в области ИИ, что вызывает обеспокоенность среди экспертов, особенно в контексте использования ИИ в чувствительных сферах, таких как здравоохранение. Будущее инициатив NIST и других программ, связанных с безопасностью ИИ, остается неопределенным. Источник