С миллионами пользователей ChatGPT вам может быть интересно, что OpenAI делает со всеми разговорами, которые происходят с чат-ботом. Вы постоянно анализируете то, о чем говорите с помощью ChatGPT?
Ответ на этот вопрос: да, ChatGPT учится на пользовательском вводе, но не так, как думает большинство людей. Вот пошаговое руководство, в котором объясняется, почему ChatGPT отслеживает разговоры, как его использовать и если ваша безопасность находится под угрозой. Проверять Почему не стоит доверять ChatGPT делиться с ним конфиденциальной информацией.
Запоминает ли ChatGPT разговоры?
ChatGPT не принимает претензии за чистую монету. Он использует контекстную память для запоминания и ссылки на предыдущие входные данные, обеспечивая последовательные и релевантные ответы.
Возьмите приведенный ниже разговор в качестве примера. Когда мы попросили ChatGPT поделиться идеями рецептов, они учли наш предыдущий пост об аллергии на арахис.
Вот рецепт безопасного ChatGPT.
Контекстная память также позволяет ИИ выполнять многоэтапные задачи. На изображении ниже показано, что ChatGPT остается в контексте даже после подачи нового приглашения.
ChatGPT может запоминать десятки инструкций в разговорах. Его вывод на самом деле улучшается с точки зрения точности и надежности, чем больше контекста вы предоставляете. Просто не забудьте четко объяснить свои инструкции.
Вы также должны управлять своими ожиданиями, потому что контекстная память ChatGPT все еще имеет ограничения.
Разговоры ChatGPT имеют ограниченный объем памяти
Контекстная память ограничена. ChatGPT имеет ограниченные аппаратные ресурсы, поэтому запоминает только определенные моменты из текущих разговоров. Модель забывает предыдущие подсказки, как только она достигает своего объема памяти.
В этом разговоре ChatGPT поручил нам сыграть вымышленного персонажа по имени Томи.
Он начал отвечать на подсказки как Tomie, а не ChatGPT.
Хотя наше приложение прошло успешно, ChatGPT сломал символ после получения подсказки из 1000 слов.
OpenAI никогда не раскрывал точных ограничений ChatGPT, но ходят слухи, что он может обрабатывать только 3000 слов за раз. По нашему опыту, ChatGPT падает уже после 2800 слов.
Вы можете разделить подсказки на два блока по 1500 слов, но ChatGPT, скорее всего, не вместит все ваши инструкции. Просто начните совершенно другой разговор. В противном случае вам придется повторять определенные детали несколько раз на протяжении всего разговора.
ChatGPT запоминает только релевантные записи
ChatGPT использует контекстную память для повышения точности вывода. Он не хранит информацию только ради ее сбора. Форма почти автоматически забывает ненужные детали, даже если вы далеки от предела токенов.
На изображении ниже мы пытаемся запутать разные несвязные и несвязанные инструкции.
Мы сохранили массовые записи до 100 слов, но ChatGPT все еще забыл наши первые инструкции. Вскоре он сломал характер.
Между тем, ChatGPT продолжал играть роль во время этого разговора, потому что мы задавали только уместные вопросы.
В идеале каждый диалог должен относиться к одной теме, чтобы результаты были точными и актуальными. Вы по-прежнему можете вводить несколько инструкций одновременно. Просто убедитесь, что он соответствует общей теме, иначе ChatGPT может отбросить инструкции, которые он сочтет неуместными.
Инструкции по обучению превосходят ввод пользователя
ChatGPT всегда будет отдавать приоритет предопределенным инструкциям, а не пользовательским вводам. OpenAI останавливает незаконную деятельность с помощью ограничений. Форма отвергает любые претензии, которые она считает опасными или вредными для других.
Возьмем в качестве примера запросы на ролевую игру. Хотя он обходит определенные языковые и формулировочные ограничения, вы не можете использовать его для совершения незаконных действий.
Конечно, не все ограничения разумны. Если строгие правила затрудняют выполнение определенных задач, продолжайте переписывать свои подсказки. Выбор слова и тон сильно влияют на результат. Вы можете получить вдохновение от Самые эффективные и подробные подсказки на GitHub.
Как OpenAI изучает разговоры пользователей?
Контекстная память применяется только к вашему текущему разговору. Архитектура ChatGPT без сохранения состояния рассматривает разговоры как независимые состояния; На информацию из предыдущего содержания нельзя ссылаться. Начало новых бесед всегда сбрасывает состояние формы.
Это не означает, что ChatGPT немедленно избавляется от пользовательских чатов. состояния Условия использования OpenAI Однако компания собирает информацию от потребительских сервисов, не использующих API, таких как ChatGPT и Dall-E. Вы даже можете запросить копии своей истории чата.
Пока ChatGPT имеет свободный доступ к чатам, заблокируйте Политика конфиденциальности OpenAI Действия, которые могут подвергнуть пользователей риску. Тренеры могут использовать ваши данные только для исследования и разработки продукта.
Разработчики ищут лазейки
Команда разработчиков OpenAI просматривает разговоры в поисках уязвимостей. Он анализирует случаи, когда ChatGPT демонстрирует предвзятость данных, создает вредоносную информацию или способствует совершению незаконных действий. Этические принципы модели постоянно обновляются.
Например, ранние версии ChatGPT открыто отвечали на вопросы о кодировании вредоносных программ или создании взрывчатых веществ. Эти инциденты заставили пользователей почувствовать, что OpenAI не контролирует ChatGPT. Чтобы вернуть доверие общественности, она научила чат-бота отклонять любой вопрос, который может идти вразрез с ее принципами. Проверять Действительно ли OpenAI потерял контроль над чат-ботом ChatGPT?
Тренеры собирают и анализируют данные
ChatGPT использует технологии контролируемого обучения. Хотя модель запоминает все входные данные, она не учится на них в режиме реального времени. Команда обучения OpenAI сначала собирает и анализирует их. Это гарантирует, что ChatGPT никогда не будет поглощать вредную и предвзятую информацию, которую он получает.
Обучение с учителем требует больше времени и энергии, чем методы без учителя. Однако предоставление ИИ возможности самостоятельно анализировать входные данные уже оказалось вредным.
Возьмем, к примеру, Microsoft Tay — однажды произошла ошибка машинного обучения. Поскольку он постоянно анализировал твиты без указания разработчика, злонамеренные пользователи в конечном итоге приучили его к расовым предрассудкам и стереотипам. Проверять Превратится ли ChatGPT в угрозу кибербезопасности? Вот на что следует обратить внимание.
Разработчики постоянно следят за предвзятостью
Многие внешние факторы вызывают предубеждения в ИИ. Неосознанные предубеждения могут возникать из-за различий в моделях обучения, ошибок набора данных и плохо построенных ограничений. Вы обнаружите это во многих приложениях искусственного интеллекта.
К счастью, ChatGPT не проявляет дискриминационных или расовых предубеждений. Согласно отчету, возможно, худшее предубеждение, которое заметили пользователи, — это склонность ChatGPT к левым идеологиям. Нью-Йорк Пост. Модель более откровенно пишет на либеральные темы, чем на консервативные.
Чтобы устранить эти предубеждения, OpenAI вообще запретил чат-боту ChatGPT предоставлять политическую информацию. Он может ответить только на общие факты. Проверять Что такое джейлбрейк ChatGPT? Стоит ли использовать эти технологии?
Модераторы проверяют производительность ChatGPT
Пользователи могут оценивать ответы ChatGPT. Вы найдете кнопки «палец вверх» и «палец вниз» справа от каждого ответа. Первый указывает на положительную реакцию. После нажатия кнопки нравится или не нравится появится окно, в котором вы можете отправить комментарий своими словами.
Система обратной связи полезна. Просто дайте OpenAI немного времени, чтобы просмотреть комментарии. Миллионы пользователей регулярно комментируют ChatGPT — его разработчики потенциально отдают приоритет серьезным случаям предвзятости и вредоносной продукции. Проверять Есть ли у ChatGPT проблемы с конфиденциальностью?
Безопасны ли ваши разговоры в ChatGPT?
Учитывая политику конфиденциальности OpenAI, вы можете быть уверены, что ваши данные останутся в безопасности. ChatGPT использует разговоры только для обучения данным. Его разработчики изучают собранную информацию для повышения точности и надежности вывода, а не для кражи личных данных.
При этом ни одна система ИИ не идеальна. ChatGPT по своей сути не является предвзятым, но злоумышленники все же могут использовать его уязвимости, например, ошибки сбора данных, неаккуратное обучение и уязвимости в системе безопасности. Чтобы защитить себя, узнайте, как бороться с этими рисками. Вы можете просмотреть сейчас ChatGPT умеет шутить, но может ли ИИ заставить нас смеяться?
