OpenAI обогащается за счет Stack Overflow

Stack Overflow объявил о сотрудничестве с OpenAI, которое может повысить точность ChatGPT в отношении знаний программирования. Звучит многообещающе, но есть и потенциальные проблемы.

Два месяца назад Stack Overflow объявил об аналогичном партнерстве с Google Cloud, объединив хранилище проверенных сообществом знаний Stack Overflow с Gemini для Google Cloud. Теперь настала очередь OpenAI и ChatGTP. Как и прежде, OverflowAPI является ключом к сотрудничеству, которое выгодно обоим партнерам:

• OpenAI будет использовать продукт OverflowAPI компании Stack Overflow и сотрудничать со Stack Overflow для улучшения производительности модели для разработчиков, использующих их продукты. Эта интеграция поможет OpenAI улучшить свои модели искусственного интеллекта, используя расширенный контент и отзывы сообщества Stack Overflow, а также обеспечит атрибуцию сообщества Stack Overflow в ChatGPT, что будет способствовать более глубокому вовлечению в контент.
• Stack Overflow будет использовать модели OpenAI в рамках разработки OverflowAI и сотрудничать с OpenAI, чтобы использовать результаты внутреннего тестирования для максимизации производительности моделей OpenAI. Партнерство OpenAI со Stack Overflow будет способствовать выполнению миссии компании по расширению возможностей для развития технологий с помощью коллективных знаний, поскольку Stack Overflow сможет создавать более качественные продукты, которые будут способствовать здоровью, росту и вовлеченности сообщества Stack Exchange.

Прашант Чандрасекар, генеральный директор Stack Overflow, возлагает большие надежды на этот двусторонний обмен опытом:

"Stack Overflow - крупнейшее в мире сообщество разработчиков, насчитывающее более 59 миллионов вопросов и ответов. Благодаря этому ведущему в отрасли партнерству с OpenAI мы стремимся переосмыслить опыт разработчиков, способствуя эффективности и сотрудничеству благодаря силе сообщества, лучшим в своем классе данным и опыту искусственного интеллекта. Наша цель с OverflowAPI и наша работа по продвижению эры социально ответственного ИИ - установить новые стандарты с проверенными, надежными и точными данными, которые станут основой для создания и предоставления технологических решений нашим пользователям".

Как это может пойти не так? Недавняя история указывает на несколько точек напряжения.

В самом начале, когда на сцену вышел ChatGPT от OpenAI, разработчики были очень заинтересованы в том, чтобы опробовать его. Это имело последствия для Stack Overflow, который внезапно был наводнен ответами, сгенерированными ChatGTP, многие из которых были неточными или вводящими в заблуждение, что привело к запрету на сайте Stack Overflow контента, сгенерированного ИИ.

Stack Overflow столкнулся с другими проблемами, когда отменил запрет и вместо этого фактически проинструктировал модераторов не предпринимать никаких действий против ответов, сгенерированных ИИ. Сообщество возражало не только против новой политики, но и против того, как новые термины были введены без возможности обсуждения или компромисса, и некоторые модераторы-добровольцы устроили забастовку.

Появление GitHub Copilot и других средств искусственного интеллекта, основанных на LLM, усугубило падение посещаемости Stack Overflow, что, в свою очередь, вынудило компанию провести два раунда увольнений - 58 сотрудников, около 10 %, в мае 2023 года, а затем в октябре 2023 года - около 28 % персонала.

OverflowAI Search, активный ответ Stack Overflow на внедрение искусственного интеллекта в свою работу, был представлен в июле прошлого года, а в сентябре началась ограниченная частная альфа-версия. Альфа-версия завершилась через 6 месяцев, и участники больше не могли участвовать в текущей работе над ней. Хотя Overflow AI заявлен как "Coming Soon" для Stack Overflow for Teams, ответы сотрудников на объявление Meta Stack Concluding the OverflowAI Search Alpha на Stack Overflow говорят о том, что запуск этого аспекта не планируется.

Как же сообщество Stack Overflow отреагирует на то, что Stack Overflow поделится контентом, который они как сообщество создали с Open AI? Мы должны помнить, что OpenAI подвергся критике за недостаточную открытость, и, хотя ChatGPT был встречен с большим энтузиазмом, ему далеко не всегда доверяли - проблему, конечно, призван решить OverflowAPI.

Со стороны разработчиков уже последовала ответная реакция, но протестные действия привели к тому, что их запретили на Stack Overflow, а те, у кого возникло желание удалить свой собственный вклад, обнаружили, что это невозможно. А как насчет намеренного размещения вводящих в заблуждение ответов? Это противоречит этике сайта, а его система репутации призвана поддерживать высокое качество вопросов и ответов, так что, надеюсь, этого не произойдет.

Очень важно, чтобы генетический искусственный интеллект был надежным, и это партнерство, если оно работает так, как задумано, следует приветствовать как способ использовать мощь больших языковых моделей для мудрости толпы.