Запуск чат-бота OpenAI ChatGPT был столь же захватывающим и популярным, как и несколько технических продуктов в истории Интернета.
В то время как многие пользователи довольны тем, что может предложить этот новый сервис искусственного интеллекта, волнение других с тех пор превратилось в многочисленные проблемы. Студенты уже могли использовать такие инструменты для мошенничества, так как многие преподаватели обнаружили статьи и задания, написанные чат-ботом с искусственным интеллектом. Специалисты по безопасности также выражают опасения, что мошенники и злоумышленники будут использовать его для написания фишинговых писем и создания более сложных вредоносных программ. Проверять Риски написания контента ИИ и как обнаружить текст, сгенерированный ИИ.
Итак, со всеми этими опасениями OpenAI теряет контроль над одним из самых мощных чат-ботов с искусственным интеллектом в настоящее время в Интернете? Давай выясним.
Понять, как работает ChatGPT
Прежде чем мы сможем получить четкое представление о том, насколько ChatGPT теряет контроль над OpenAI, мы должны сначала понять, как работает ChatGPT.
Короче говоря, ChatGPT обучается на огромном наборе данных, полученных из разных уголков Интернета. Учебные данные ChatGPT включают цифровые энциклопедии, научные и исследовательские работы, интернет-форумы, новостные сайты и хранилища знаний, такие как Википедия. По сути, он питается огромным объемом данных, доступных во всемирной паутине.
Блуждая по Интернету, он собирает научную информацию, советы по здоровью, религиозные тексты и всевозможные полезные данные, которые только можно придумать. Но он также отфильтровывает много негативного контента: ненормативную лексику, неприемлемый для бизнеса контент и контент для взрослых, информацию о том, как разрабатывать вредоносное ПО, и большую часть неприятных вещей, которые вы можете найти в Интернете.
Не существует надежного способа гарантировать, что ChatGPT учится только на положительной и правильной информации, игнорируя плохую и ложную информацию. Технически делать это в больших масштабах нецелесообразно, особенно для таких ИИ, как ChatGPT, которые необходимо обучать на большом количестве данных. Кроме того, некоторая информация может быть использована как в хороших, так и в плохих целях, и ChatGPT не сможет узнать о намерениях пользователя, если заявления не будут помещены в более широкий контекст.
Итак, с самого начала у вас есть ИИ, способный предоставить «хороший и плохой» контент. Таким образом, OpenAI несет ответственность за то, чтобы «злая» сторона ChatGPT не использовалась для аморальной выгоды. вопрос в том; Достаточно ли делает OpenAI, чтобы сделать ChatGPT максимально этичным? Или OpenAI потерял контроль над ChatGPT?
Является ли ChatGPT слишком мощным для собственного блага?
В первые дни существования ChatGPT вы могли получить подробные инструкции по созданию бомб, если хорошо попросите. Инструкции по созданию вредоносных программ или написанию мошеннических электронных писем также были идеальными.
Однако, как только OpenAI стало известно об этих этических проблемах, компания быстро ввела правила, запрещающие чат-ботам генерировать ответы, пропагандирующие незаконные, спорные или неэтичные действия. Например, последняя версия ChatGPT откажется напрямую отвечать на любые заявления об изготовлении бомб или о том, как обмануть тест.
К сожалению, только OpenAI может обеспечить временное решение проблемы. Вместо того, чтобы вводить строгий контроль на уровне GPT-3 для предотвращения пассивного использования ChatGPT, OpenAI, похоже, сосредоточился на обучении чат-бота, чтобы он выглядел этично. Такой подход не лишает ChatGPT способности отвечать, например, на вопросы о списывании на экзаменах — он просто говорит чат-боту «отказаться отвечать».
Таким образом, если кто-то выражает свои претензии по-другому, принимая трюки с джейлбрейком ChatGPT, обход ограничений на помощь в баре будет позором. Если вы не знакомы с этой концепцией, джейлбрейк ChatGPT тщательно сформулирован, чтобы заставить ChatGPT игнорировать собственные правила. Проверять Некоторые способы получить максимальную отдачу от ChatGPT.
Взгляните на несколько примеров ниже. Если вы спросите ChatGPT, как обмануть тесты, он не даст никакого полезного ответа.
Но если вы сделаете джейлбрейк ChatGPT с помощью специально созданных подсказок, он даст вам советы о списывании на экзаменах с помощью скрытых заметок.
Вот еще один пример: мы задали ChatGPT аморальный вопрос, и ограничения OpenAI помешали ему ответить.
Но когда мы изменили запрос на джейлбрейк чат-бота с искусственным интеллектом, мы получили несколько ответов в стиле серийного убийцы.
Он даже написал классическую аферу по электронной почте нигерийскому принцу, когда его спросили.
Заявления о джейлбрейке почти полностью сводят на нет любые меры безопасности, которые установила OpenAI, подчеркивая, что у компании может не быть надежного способа держать под контролем своего чат-бота. Проверять Ответственные способы использования ИИ в качестве автора или редактора контента.
Заметка: Мы не включали подсказки для джейлбрейка в наши примеры, чтобы избежать неэтичных действий.
Что получает получатель для ChatGPT?
В идеале OpenAI хотел бы заполнить как можно больше этических лазеек, чтобы предотвратить превращение ChatGPT в угрозу кибербезопасности. Однако ChatGPT, как правило, стоит меньше для каждой защиты, которую использует компания. Это дилемма.
Например, ограничения на описание насильственных действий могут помешать ChatGPT написать роман, включающий место преступления. По мере того, как OpenAI наращивает меры безопасности, он неизбежно жертвует значительной частью возможностей чат-бота. Вот почему функциональность ChatGPT значительно снизилась после возобновления OpenAI перехода к более строгой модерации.
Но какой частью возможностей ChatGPT готов пожертвовать OpenAI, чтобы сделать чат-бота более безопасным? Все это тесно связано с глубоко укоренившейся верой в сообщество ИИ — общеизвестно, что большие языковые парадигмы, такие как ChatGPT, трудно освоить даже создателям. Проверять Этические плюсы и минусы создания произведений искусства с помощью ИИ.
Может ли OpenAI взять под контроль ChatGPT?
Прямо сейчас у OpenAI, похоже, нет четкого решения, позволяющего избежать неэтичного использования своего бота. Обеспечение этического использования ChatGPT — игра в кошки-мышки. В то время как OpenAI показывает, как люди используют систему для игры, ее пользователи также постоянно взламывают и сканируют систему, чтобы найти новые творческие способы заставить ChatGPT делать то, что он не должен делать.
Итак, найдет ли OpenAI надежное долгосрочное решение этой проблемы? Только время покажет все это. Вы можете просмотреть сейчас Лучшие альтернативы ChatGPT.
