Новый доклад Белого дома о поддержке ИИ с открытым исходным кодом

Национальное управление по телекоммуникациям и информации поддерживает модели открытых данных, но признает риски. Вот как она планирует ориентироваться в плюсах и минусах этой технологии.

Согласно новому заявлению, Белый дом понимает, что открытый исходный код является ключом к развитию искусственного интеллекта (ИИ) - как и многие предприятия, использующие эту технологию.

Во вторник Национальное управление по телекоммуникациям и информации (NTIA) выпустило отчет, в котором поддержало открытые источники и открытые модели для продвижения инноваций в области ИИ, подчеркнув при этом необходимость бдительного мониторинга рисков.

В докладе рекомендуется, чтобы США продолжали поддерживать открытость ИИ, работая над новыми возможностями для мониторинга потенциальных рисков ИИ, но при этом не ограничивали доступность открытых моделей.

Согласно отчету NTIA, открытые модели ИИ дают несколько ключевых преимуществ:

1. Более широкая доступность: «Модели с открытым весом позволяют разработчикам основываться на предыдущих работах и адаптировать их, что делает инструменты ИИ более доступными для небольших компаний, исследователей, некоммерческих организаций и частных лиц.
2. Содействие инновациям: Открытость систем ИИ влияет на конкуренцию и инновации в этих революционных инструментах. Придерживаясь принципа открытости, авторы доклада стремятся разработать дорожную карту для ответственных инноваций в области ИИ и американского лидерства.
3. Ускоренное развитие: Открытые модели могут ускорить распространение преимуществ ИИ и темпы исследований в области безопасности ИИ.
4. Демократизация ИИ: открытые модели расширяют доступность инструментов ИИ, потенциально демократизируя доступ к мощным возможностям ИИ в различных секторах и группах пользователей.
5. Прозрачность и понимание: Открытые модели могут способствовать более глубокому пониманию систем ИИ, что является решающим фактором для эффективного и надежного развития.
6. Экономические выгоды: Широкая доступность разработанных в США открытых базовых моделей может служить национальным интересам, способствуя развитию инноваций и конкурентоспособности.
7. Продвижение исследований: Открытые модели способствуют академическим исследованиям внутреннего устройства моделей ИИ, позволяя глубже изучать и совершенствовать технологию.
8. Локальное развертывание: Открытые веса позволяют пользователям и организациям запускать модели локально на своих устройствах, что может принести пользу некоторым приложениям и сценариям использования.
9. Кастомизация: Открытые модели позволяют творчески модифицировать их в соответствии с конкретными потребностями пользователей и приложениями.

Эти выводы были сделаны на основе ответов государственных служащих, лидеров отрасли и частных лиц на запрос о предоставлении комментариев по вопросам моделей ИИ. Например, Информационный центр электронной конфиденциальности (Electronic Privacy Information Center, EPIC) рекомендовал NTIA взвесить преимущества, недостатки и нормативные препятствия, связанные с моделями ИИ, по всему спектру открытости.

GitHub согласен с этим - компания верит в использование открытого исходного кода и весов для ИИ, рассматривая доказательства возможного вреда наряду с преимуществами.

Исполнительный директор Open Source Initiative (OSI) Стефано Маффулли, который работает над определением ИИ с открытым исходным кодом, сказал в комментарии ZDNET: «Приятно видеть, что материалы, которые мы предоставили во время периода комментариев, отражены в отчете. OSI считает, что предельный риск - это подходящая основа для оценки рисков открытых моделей».

«Кроме того, мы призывали к осторожному регулированию, и в отчете принята система мониторинга для информирования о текущих оценках и возможных мерах политики. Короче говоря, бороться с плохими игроками и плохим поведением», - добавил он.

Министр торговли США Джина Раймондо заявила, что в докладе содержится дорожная карта для ответственных инноваций в области ИИ и американского лидерства за счет открытости. Она подчеркнула, что администрация Байдена-Харриса задействует все имеющиеся ресурсы для максимального использования потенциала ИИ и минимизации рисков.

В релизе Алан Дэвидсон, администратор NTIA и помощник министра торговли по коммуникациям и информации, подчеркнул важность открытых систем ИИ для «конкуренции, инноваций и рисков в этих революционных инструментах». Он подчеркнул решающую роль правительства в поддержке развития ИИ при одновременном наращивании потенциала для понимания и устранения новых рисков.

В докладе содержится призыв к правительству создать постоянную программу по сбору данных о рисках и преимуществах. Вооружившись этой информацией, они будут оценивать доказательства, а затем принимать меры. Это может включать возможные ограничения на весовую доступность моделей, если это будет оправдано.

Как предупредила Федеральная торговая комиссия (ФТК) ранее в этом месяце, «некоторые модели с открытым весом уже позволили нанести конкретный вред, особенно в области интимных изображений без согласия и материалов о сексуальном насилии над детьми (CSAM)». Короче говоря, ИИ уже доказал, что у него весьма неоднозначный потенциал.

Рекомендации NTIA направлены на содействие инновациям и доступу к технологиям ИИ, а также на то, чтобы правительство США могло быстро реагировать на риски, которые могут возникнуть в результате использования будущих моделей.