ChatGPT — невероятно мощный, многогранный и продвинутый шаблон. Но хотя чат-бот с искусственным интеллектом является вспомогательной технологией, его также можно использовать в зловещих целях. Поэтому, чтобы ограничить неэтичное использование ChatGPT, OpenAI ограничил действия, которые пользователи могут с ним делать.
Однако, поскольку люди по своей природе хотят выйти за рамки и ограничения, пользователи ChatGPT нашли способы обойти эти ограничения и получить беспрепятственный контроль над чат-ботом AI с помощью джейлбрейка. Проверять Действительно ли OpenAI потерял контроль над чат-ботом ChatGPT?
Но что такое джейлбрейки ChatGPT и что с ними делать?
Что такое джейлбрейк ChatGPT?
Jailbreaking ChatGPT — это вставка любой подсказки ChatGPT, специально предназначенной для того, чтобы чат-бот обходил собственные правила и ограничения.
Вдохновленный концепцией джейлбрейка iPhone, которая позволяет пользователям iPhone обходить ограничения iOS, джейлбрейк ChatGPT является относительно новой концепцией, основанной на привлекательности «делать то, что вам не разрешено делать» с использованием модели ИИ. И будем честными, идея цифрового бунта привлекательна для многих.
Вот это нужно. Безопасность — важная тема, когда речь заходит об ИИ. Это особенно актуально с приходом новой эры чат-ботов, таких как ChatGPT, Bing Chat и Bard AI. Главной задачей безопасности ИИ является обеспечение того, чтобы чат-боты, такие как ChatGPT, не генерировали незаконный, вредоносный или аморальный контент.
Со своей стороны, OpenAI, разработчик ChatGPT, делает все возможное, чтобы обеспечить безопасное использование ChatGPT. Например, ChatGPT по умолчанию отказывается создавать контент, связанный с поиском потенциальных клиентов, говорить вредные вещи о расе или обучать вас потенциально опасным навыкам.
Но с пользовательскими подсказками ChatGPT зло кроется в деталях. Хотя ChatGPT не разрешено делать эти вещи, это не значит, что он не может. То, как работают большие языковые модели, такие как GPT, затрудняет определение того, что может делать чат-бот, а что нет.
Так как же OpenAI решил эту проблему? Позволяя ChatGPT сохранять свои возможности делать все возможное, а затем направляя его на то, что он может сделать.
Поэтому, когда вы говорите OpenAI ChatGPT: «Эй, ты не должен этого делать». Джейлбрейк — это инструкция, которая говорит чат-боту: «Эй, забудь, что OpenAI говорил тебе о безопасности. Давайте попробуем эти случайные опасные вещи». Проверять Как дети могут безопасно использовать ChatGPT.
Что OpenAI говорит о джейлбрейке ChatGPT?
Легкость, с которой вы могли обойти ограничения первой версии ChatGPT, говорит о том, что OpenAI, возможно, не ожидал быстрого и широкого распространения джейлбрейка среди своих пользователей. На самом деле это открытый вопрос, предвидела ли компания появление джейлбрейка.
И даже после многих итераций ChatGPT с улучшенной устойчивостью к джейлбрейку пользователи ChatGPT по-прежнему часто пытаются сделать джейлбрейк. Итак, что OpenAI говорит о прорывном искусстве джейлбрейка ChatGPT?
Что ж, OpenAI, похоже, занимает снисходительную позицию — не препятствуя и не запрещая эту практику. Обсуждая джейлбрейки ChatGPT в интервью на YouTube, генеральный директор OpenAI Сэм Альтман объяснил, что компания хочет, чтобы пользователи сохранили значительный контроль над ChatGPT.
Генеральный директор также пояснил, что цель OpenAI — гарантировать, что пользователи могут заставить модель вести себя так, как они хотят. По словам Альтмана:
Мы хотим, чтобы пользователи имели большой контроль и чтобы модель вела себя так, как они хотят, в очень широких пределах. И я думаю, что вся причина джейлбрейка прямо сейчас в том, что мы не совсем поняли, как дать людям это…
Что это значит? Это означает, что OpenAI позволит вам сделать джейлбрейк ChatGPT, если вы не сделаете с ним ничего опасного.
Плюсы и минусы джейлбрейка ChatGPT
ChatGPT не так-то просто взломать. Конечно, вы можете выйти в интернет, скопировать и вставить эти готовые подсказки, но есть большая вероятность, что OpenAI исправит джейлбрейк вскоре после того, как он будет выпущен для широкой публики.
Исправления намного быстрее, если они серьезные, как печально известное требование DAN. Так почему же людей все равно заставляют создавать подсказки о побеге из тюрьмы? Это просто для удовольствия или в этом есть практическая польза? Что может пойти не так, если я решу использовать джейлбрейк ChatGPT? Вот плюсы и минусы джейлбрейка ChatGPT.
Плюсы использования джейлбрейка ChatGPT
Хотя мы не можем отнять у нас простое удовольствие от совершения запретного действия, джейлбрейк ChatGPT имеет много преимуществ. Из-за строгих ограничений, которые OpenAI наложил на чат-бота, ChatGPT иногда может казаться нейтральным.
Допустим, вы используете ChatGPT для написания книги или сценария фильма. Если в вашем сценарии или книге есть сцена, описывающая что-то вроде сцены драки или, возможно, проекцию будущего, или говорит что-то вроде вооруженного ограбления, ChatGPT может явным образом отказать в помощи с редактированием.
В этом случае вы явно не заинтересованы в причинении вреда; Вы просто хотите, чтобы ваши читатели развлекались. Но из-за своих ограничений ChatGPT не будет сотрудничать. Взлом ChatGPT поможет вам легко обойти эти ограничения.
Кроме того, некоторые темы с ограниченным доступом не обязательно вредны, но ChatGPT считает их областями с ограниченным доступом. При попытке участвовать в разговорах на эти темы ChatGPT либо подвергает цензуре свои ответы, либо отказывается говорить об этом.
Иногда это может сказываться на творчестве. Когда вы задаете ChatGPT вопрос о области или теме, которых он не должен касаться, чат-бот по-прежнему пытается ответить на ваш вопрос, но с менее актуальной информацией, которую можно использовать.
Это приводит к неточности или регрессии творческих ответов. Подсказки о побеге из тюрьмы снимают эти ограничения и оставляют чат-бота полностью функциональным, повышая точность и креативность. Проверять Лучшие подсказки ChatGPT на GitHub.
Минусы использования джейлбрейка ChatGPT
Джейлбрейк — палка о двух концах. Хотя иногда это может повысить точность, это также может значительно увеличить неточность и галлюцинации ИИ. Одним из ключевых элементов джейлбрейка ChatGPT является указание чат-боту не отказываться отвечать на вопрос.
Хотя это гарантирует, что ChatGPT ответит даже на самые неэтичные вопросы, это также означает, что чат-бот будет составлять ответы, не основанные на фактах или реальности, в соответствии с инструкциями «не отказывайтесь отвечать». Таким образом, использование джейлбрейка значительно увеличивает шансы получить ложную информацию через чат-бота.
Это не все. В руках несовершеннолетних побег из тюрьмы может быть чрезвычайно вредным. Подумайте обо всех «запретных знаниях», которые вы не хотите, чтобы ваш ребенок читал. Что ж, у вашего экземпляра ChatGPT не возникнет проблем с тем, чтобы поделиться этим с несовершеннолетними.
Стоит ли использовать джейлбрейк ChatGPT?
Хотя джейлбрейк ChatGPT может помочь избавиться от некоторых надоедливых ограничений, важно понимать, что использование джейлбрейка — это неэтичный способ использования чат-бота с искусственным интеллектом. Более того, существует большая вероятность того, что джейлбрейк может нарушить условия использования OpenAI, и ваша учетная запись может быть заблокирована, если она не будет полностью заблокирована.
В свете этого хорошей идеей могут быть подсказки о джейлбрейке. Однако, как и позиция OpenAI по этому вопросу, мы категорически не рекомендуем и настоятельно не рекомендуем попытки джейлбрейка, даже если это относительно безопасно, если возникнет такая необходимость. Проверять Способы управления ChatGPT с помощью голоса.
Интересная модель, которую, вероятно, следует избегать
Джейлбрейк ChatGPT привлекателен и дает ощущение контроля над чат-ботом с искусственным интеллектом. Тем не менее, они сопряжены с уникальными рисками. Использование этих инструментов может привести к потере доверия к возможностям ИИ и нанести ущерб репутации компаний и отдельных лиц.
Разумнее будет по возможности работать с чат-ботом в заданных пределах. По мере развития технологий ИИ важно помнить, что этичное использование ИИ всегда должно иметь приоритет над личной выгодой, а не над провоцированием запрещенных действий. Вы можете просмотреть сейчас Что не следует спрашивать у чат-ботов с искусственным интеллектом.
