Эволюция ИИ: Борьба со страхами, предвзятостью, безопасностью и эффективностью

С ростом популярности искусственного интеллекта руководители высшего звена оказывают давление на менеджеров, требуя использовать ИИ и машинное обучение. В результате возникают проблемы, поскольку руководители среднего звена пытаются найти способы удовлетворить спрос на решения ИИ нового поколения.

В результате все большее число неподготовленных компаний отстают. Речь идет о негативных последствиях для предприятий различных отраслей, которые могут возникнуть из-за отсутствия быстрой интеграции генеративного ИИ и больших языковых моделей (БЯМ).

Эти технологии ИИ - новое большое достижение в области автоматизации рабочих мест и повышения производительности труда. Они способны революционизировать процесс выполнения работы, повысить эффективность, стимулировать инновации и изменить характер некоторых профессий.

Генеративный ИИ - одна из наиболее перспективных производных ИИ. Он может способствовать совместному решению проблем на основе реальных данных компании для оптимизации бизнес-процессов. LLM могут помочь в автоматизации рутинных задач, освобождая время для более сложных и творческих проектов.

Три наболевшие проблемы, с которыми сталкиваются организации при внедрении ИИ, занимают первое место. По словам Моргана Ллевеллина, директора по данным и стратегии компании Stellar, пока компании не решат их, они будут продолжать барахтаться в продуктивном использовании ИИ. Он пояснил, что они должны:

• Получить представление о возможностях ИИ;
• Понять, что возможно для их внутренних рабочих процессов;
• Повысить квалификацию работников, чтобы они могли справиться с изменениями.

Возможно, еще большее недоумение вызывает нерешенность проблемы обеспечения безопасности, чтобы операции ИИ не выходили за рамки навязанных человеком понятий конфиденциальности, добавил Майк Мейсон, главный специалист по ИИ в Thoughtworks. Он утверждает, что полагаться на регулирование - неверный подход.

"Слишком часто регулирующие органы не успевают за развитием технологий и принимают законы, которые тормозят инновации. Давление на регуляторов будет продолжаться до тех пор, пока отрасль не решит проблему доверия потребителей", - сказал Мейсон в интервью TechNewsWorld.

Непопулярная точка зрения

Мейсон доказывает, что полагаться на регулирование - неверный подход. Предприятия могут завоевать доверие потребителей и избежать громоздкого законотворчества благодаря ответственному подходу к генеративному ИИ.

Он утверждает, что решение проблемы безопасности лежит в самих отраслях, использующих новую технологию, чтобы обеспечить ответственное и этичное использование генеративного ИИ. Не правительство должно устанавливать защитные ограждения.

"Мы хотим сказать, что компании должны знать о мнении потребителей. И вы должны понимать, что даже если в остальном мире не будет правительственных постановлений, вы все равно будете нести ответственность в суде общественного мнения", - утверждает он.

Мнение Мейсона противоречит последним исследованиям, которые говорят в пользу "жесткой руки" регулятора. Большинство потребителей (56 %) не доверяют компаниям, которые ответственно подходят к внедрению искусственного интеллекта.

По его словам, эти исследования, проведенные среди 10 000 потребителей в 10 странах, показали, что подавляющее большинство (90 %) потребителей согласны с тем, что необходимо ввести новые правила, чтобы заставить компании нести ответственность за использование искусственного интеллекта.

Мейсон основывает свою противоположную точку зрения на других ответах в этих исследованиях, показывающих, что компании могут создать свою социальную лицензию на ответственную деятельность.

Он отметил, что 83 % потребителей согласны с тем, что компании могут использовать генеративный ИИ для повышения инновационности, чтобы лучше обслуживать их. Примерно столько же (85 %) предпочитают компании, которые выступают за прозрачность и справедливость при использовании генного ИИ.

Thoughtworks - технологическая консалтинговая компания, которая объединяет стратегию, дизайн и разработку программного обеспечения, чтобы обеспечить процветание предприятий и технологических разрушителей.

"У нас богатая история системного интегратора и понимания не только того, как использовать новую технологию, но и того, как заставить ее действительно работать и хорошо сочетаться со всеми существующими системами. Так что я бы определенно сказал, что это проблема", - сказал Мейсон.

Контролируйте плохих актеров, а не хороший ИИ

Ллевеллин из Stellar поддерживает идею о том, что проблемы безопасности, связанные с нарушением безопасности ИИ, можно решить без жесткого государственного регулирования. Он признался, что в компьютерных системах существуют дыры, которые могут дать плохим игрокам новые возможности для нанесения вреда.

"Как и при внедрении любой другой технологии, при правильной реализации проблемы безопасности не являются непреодолимыми", - сказал Ллевеллин в интервью TechNewsWorld.

Генеративный ИИ появился около года назад. По его словам, ни у кого не было кадровых ресурсов, чтобы справиться с новой технологией наряду со всем остальным, чем люди уже занимались.

Представители всех отраслей все еще ищут ответы на четыре тревожных вопроса о роли ИИ в их организациях. Что это такое, как это может помочь моему бизнесу, как я могу сделать это безопасно и надежно и как мне найти специалистов для внедрения этой новой технологии?

Именно эту роль Stellar выполняет для компаний, сталкивающихся с подобными вопросами. Она помогает разработать стратегию, чтобы люди понимали, какой подход ИИ будет использоваться в их бизнесе.

Затем Stellar занимается проектированием инфраструктуры, где решаются все вопросы безопасности. И наконец, Stellar может прийти и помочь развернуть надежное решение для бизнеса, пояснил Ллевеллин.

Научно-фантастический призрак опасностей ИИ

С позиции разработчика программного обеспечения Мейсон видит два одинаково тревожных взгляда на потенциальную опасность ИИ. Первый - это научно-фантастические опасения. Другой - его инвазивное использование.

Он видит, что люди думают об ИИ с точки зрения того, не создаст ли он беглый сверхинтеллект, который решит, что люди мешают ему достигать других целей, и покончит со всеми нами.

"Я думаю, что это определенно правда, что не было проведено достаточно исследований и не было потрачено достаточно средств на безопасность ИИ", - сказал он.

Мейсон отметил, что правительство Великобритании недавно заговорило об увеличении инвестиций в безопасность ИИ. Сегодня проблема заключается в том, что большинство исследований в области безопасности ИИ исходит от самих компаний, занимающихся ИИ. Это немного похоже на просьбу к лисам охранять курятник".

"Хорошая работа по безопасности ИИ уже проделана. Существуют независимые академические исследования, но они не финансируются так, как должны", - размышляет он.

Другой существующей проблемой искусственного интеллекта является его использование и моделирование, что приводит к необъективным результатам. Все эти системы искусственного интеллекта учатся на основе предоставленных им обучающих данных. Если у вас есть необъективные данные, явные или скрытые, системы искусственного интеллекта, которые вы создаете на основе этих обучающих данных, будут обладать такой же необъективностью.

Возможно, это не имеет большого значения, если крупная розничная компания, продавая товар покупателям, допустит несколько ошибок из-за предвзятости данных. Однако суд, использующий систему искусственного интеллекта для выработки рекомендаций по вынесению приговора, должен быть абсолютно уверен в отсутствии предвзятых данных, считает он.

"Первое, на что мы должны обратить внимание, это: "Что могут сделать компании?" Вам все равно нужно начать изучать предвзятость и данные, потому что если вы потеряете доверие клиентов из-за этого, это может оказать значительное влияние на бизнес", - сказал Мейсон. "Следующая тема - конфиденциальность и безопасность данных".

Сила внутри ИИ

Примеры использования возможностей ИИ для экономии времени, ускорения анализа данных и решения человеческих проблем слишком многочисленны, чтобы описывать их здесь. Однако Мейсон привел пример, который наглядно показывает, как использование ИИ может повысить эффективность и экономию затрат на выполнение задач.

Компания Mondelez International, чьи бренды включают Oreo, Cadbury, Ritz и другие, привлекла искусственный интеллект для разработки новых вкусных закусок.

Разработка таких продуктов включает в себя тестирование буквально сотен ингредиентов для рецепта. Затем необходимы инструкции по приготовлению. В конечном счете эксперты-дегустаторы пытаются определить наилучший результат.

Этот процесс дорогостоящий, трудоемкий и отнимает много времени. Thoughtworks создала систему искусственного интеллекта, которая позволяет разработчикам закусок вводить данные о предыдущих рецептах и результатах работы экспертов-дегустаторов.

В итоге ИИ сгенерировал список из 10 новых рецептов, которые необходимо попробовать. Затем Oreo могла приготовить все 10 рецептов, снова отдать их дегустаторам, получить отзывы экспертов и получить 10 новых данных. В конечном итоге программа искусственного интеллекта переваривала все результаты и выплевывала победный рецепт.

"Мы обнаружили, что эта штука способна гораздо быстрее сходиться с реальным вкусовым профилем, который Mondelez хотела получить для своей продукции, и сэкономить буквально миллионы долларов и месяцы рабочего цикла", - говорит Мейсон.