О том, какие ошибки при работе с ИИ пользователи совершают чаще всего, рассказала директор Центра компетенций в области Цифровой трансформации Роскачества Мария Мустафаева.
Первая и главная ошибка — неправильное формулирование запросов. Многие воспринимают нейросеть как поисковик, забывая, что это скорее интеллектуальный помощник, способный генерировать более сложные и контекстуализированные ответы.
«Чтобы результат был качественным, важно научиться правильно формулировать запросы. При этом важно понимать, что уточнение роли, от лица кого или чего идет запрос, значительно повышает точность ответа. Пример: если вы хотите, чтобы нейросеть написала статью о нейросетях, нужно не просто попросить: „Напиши статью о нейросетях“, а более детально сформулировать запрос: „Напиши статью от имени эксперта в области искусственного интеллекта, как нейросети могут помочь в бизнесе, с фокусом на повышение продуктивности сотрудников, объемом 1000 слов, с примерами“. Чем более подробный запрос, тем более точный и подходящий ответ вы получите. И это становится важной составляющей уже отдельного направления — промптинг, и более того, существует целое направление промпт-инжиниринга, которое включает в себя искусство создания эффективных запросов для нейросетей», — рассказала специалист.
Вторая ключевая ошибка — это восприятие ответов искусственного интеллекта как источника истины, который никогда не ошибается. Уровень так называемых «галлюцинаций» нейросети может составлять около пяти процентов: ИИ может ошибаться и не всегда учитывать нюансы законодательства, контекста или профессиональной специфики. На данном этапе нейросеть стоит использовать как помощника, а не источник информации для принятия важных решений. ИИ поможет в поиске информации, составлении документов, анализе данных, но точно не заменит опыт и знания специалистов.
«Третья ошибка — это игнорирование вопросов кибер- и информационной безопасности. Загрузка конфиденциальных данных в нейросети может привести к утечке информации, что особенно опасно для корпоративной среды. Поэтому пользователи должны быть осторожны и осведомлены о рисках, связанных с утечками данных и сохранением их в безопасности. Важно соблюдать требования законодательства, учитывая все правовые аспекты использования ИИ, в том числе вопросы авторских прав, защиты персональных данных и прозрачности алгоритмов», — добавила Мария Мустафаева.
Эксперт Роскачества также призвала не забывать, что использование ИИ требует внимания к правовым аспектам, которые часто не учитываются нейросетями. Вопросы защиты персональных данных, авторских прав и юридической ответственности становятся все более актуальными, особенно в условиях быстрого развития технологий.
Источник: Роскачество
