Хотя модели искусственного интеллекта, такие как ChatGPT от OpenAI, несомненно, полезны во многих областях, они, как правило, время от времени предоставляют информацию, которая на самом деле неверна — проблема, обычно называемая «галлюцинациями».
Галлюцинации возникают из-за того, что модели ИИ обучаются на относительно ограниченном наборе данных, которые могут быть неверными или предвзятыми. Тем не менее, есть некоторые вещи, которые вы можете сделать, чтобы уменьшить вероятность этого. Проверять Как использовать ChatGPT для исследовательских и академических статей.
Что такое галлюцинация искусственного интеллекта
Термин «галлюцинации» у человека выражает осознание воспринимаемого, несуществующего из-за изменения сознания, так как возникает нереальное восприятие действительности, поэтому больной слышит голоса, а иногда и видит несуществующие вещи, в последующем дисфункцию головного мозга.
По аналогии с этим же термином галлюцинациями искусственного интеллекта обозначаются реакции и ответы, неверные в действительности или не относящиеся к данному контексту и с высокой степенью достоверности, делающей их внешне убедительными, обеспечиваемые различными видами искусственного интеллекта. системы, которые не имеют источника в обучающих данных, которым они подверглись.
Эксперты связывают основную причину галлюцинаций систем искусственного интеллекта с недостатком обучающих данных и, следовательно, с их неспособностью охватить конкретные темы, которые позволяют им генерировать точные ответы на конкретные вопросы, что приводит к произвольной фабрикации ответов, а это означает, что отсутствие данных обязательно приведет к неправильному результату. Вот несколько различных способов уменьшить галлюцинации систем ИИ.
1. Используйте простой и прямой язык
Когда вы используете прямые подсказки, это снижает вероятность того, что модель ИИ неправильно интерпретирует ваш ввод. Итак, убедитесь, что ваши утверждения ясны, прямолинейны и понятны.
Написание сложной претензии с рядом ненужных деталей привело к ChatGPT неверно истолковав вопрос и поделившись предложениями о том, как лучше купить зимнюю одежду.
Напротив, использование более простой подсказки, которая была прямой, приводило к более точному и информативному ответу.
Лучше всего перечитать введенное вами приглашение, чтобы убедиться, что оно сосредоточено на цели, которую вы хотите. Если вы обнаружите, что ваш ввод включает какие-либо ненужные детали или сложные предложения, исправьте его, чтобы получить точный ответ и уберечь модель ИИ от галлюцинаций. Проверять Ошибки претензий, которых следует избегать в ChatGPT.
2. Включите контекст в свои заявления
Предоставление некоторого контекста модели ИИ может помочь вашей подсказке создать более точный ответ. Контекст помогает уменьшить возможности и побуждает инструмент ИИ рассматривать более конкретный подход при ответе на ваше приглашение.
Например, вместо того, чтобы просить чат-бота с искусственным интеллектом поделиться советами о том, как инвестировать деньги, вы можете ввести следующую подсказку, которая включает в себя достаточно контекста:
«Я не склонный к риску инвестор, стремящийся накопить капитал в течение следующих нескольких десятилетий для достижения долгосрочной финансовой цели. Учитывая мою толерантность к риску и инвестиционную цель, не могли бы вы поделиться некоторыми классами активов, в которые я мог бы инвестировать? “
Вы можете сделать эту мотивацию более конкретной, добавив такие детали, как ваш возраст, доход и скорость роста необходимого капитала в течение следующих нескольких лет. Этот уровень специфичности поможет модели ИИ понять вашу уникальную ситуацию и предпочтения и предоставить ответ, который больше соответствует вашим ожиданиям.
3. Уточните введенные вами претензии
Если вы заметили, что ваш инструмент ИИ дает неверные или предвзятые ответы, попробуйте изменить подсказки. Улучшив подсказки и предоставив более четкие указания, вы, скорее всего, получите соответствующий ответ.
Например, вместо того, чтобы спрашивать рекомендации по снижению веса, которые могут привести к двусмысленным, а иногда и неправильным ответам, вы можете изменить свое приглашение на «Дайте мне несколько научно обоснованных стратегий похудения». Этот целенаправленный подход может помочь вам получить ценную информацию от вашего чат-бота с искусственным интеллектом.
Если у вас постоянно есть чат-бот с искусственным интеллектом, который дает неточные или проблемные ответы, рассмотрите возможность поделиться своим отзывом с разработчиками. Со временем отзывы, подобные вашим, помогут разработчикам улучшить базовую модель. Проверять Лучшие способы использования Google Bard и использования всех его возможностей.
4. Измените температуру
Более низкая температура (термин, обозначающий работу чат-бота) помогает получить более точный результат, а более высокая температура может сделать ответ более случайным. Если вы ищете ответы, основанные на фактах, обязательно используйте самую низкую настройку температуры для менее творческого и более аналитического ответа.
Однако, если вы, например, проводите мозговой штурм или ищете юмористические ответы, повышение остроты может сыграть вам на руку. Однако имейте в виду, что повышение температуры может привести к тому, что модель ИИ будет генерировать галлюцинаторные реакции.
В приведенном ниже примере вы заметите, что ответ ChatGPT на прямую подсказку был значительно «творческим» при температуре XNUMX.
Лучшее использование чат-бота для лучших результатов
Даже самые лучшие модели ИИ иногда раскрывают совершенно неверные факты. Учитывая это, важно, чтобы вы проверили все детали и статистику, которые генерируются чат-ботом, прежде чем принимать их за правду.
Также рекомендуется протестировать различные модели ИИ и выбрать ту, которая способна генерировать наиболее точные ответы, особенно если вы используете эти инструменты для критически важных целей или целей принятия решений. Вы можете просмотреть сейчас Ключевые факторы, которые следует учитывать при тестировании чат-ботов с искусственным интеллектом на точность.
