ChatGPT — это новый чат-бот с искусственным интеллектом, мощный и быстродействующий, но многие люди отмечают, что у него есть серьезные недостатки. Спросите его о чем угодно, и вы получите ответ, который выглядит так, как будто он был создан человеком, получившим знания и навыки письма в результате обучения на больших объемах онлайн-данных.
Однако, как и в Интернете, грань между фактами и вымыслом, безусловно, зыбка, и ChatGPT виновен в совершении ошибок более чем в одном случае. Поскольку ChatGPT настроен изменить наше будущее, вот некоторые из наших самых больших опасений по этому поводу. Проверять Есть ли у ChatGPT проблемы с конфиденциальностью?
Что такое ChatGPT?
ChatGPT — это парадигма естественного языка, предназначенная для получения ответов, очень похожих на человеческие разговоры. Точно так же, как споря с кем-то, вы можете поговорить с ChatGPT, и он запомнит то, что вы сказали в прошлом, а также сможет исправить свои ответы, когда его вызовут.
Он обучается на всевозможных текстах из Интернета, вы можете вспомнить Википедию, сообщения в блогах, книги и научные статьи. Это означает, что помимо того, что он отвечает вам по-человечески, он может вспоминать информацию о нашем нынешнем мире, а также извлекать историческую информацию из нашего прошлого.
Научиться использовать ChatGPT просто, и легко обмануться, думая, что система ИИ работает без проблем. Однако за несколько месяцев, прошедших с момента его запуска, пользователи по всему миру довели чат-бота с искусственным интеллектом до предела своих возможностей, что привело к выявлению некоторых серьезных проблем.
1. ChatGPT генерирует неправильные ответы
ChatGPT не справляется с базовой математикой, кажется, не отвечает на простые логические вопросы и даже заходит так далеко, что обсуждает факты, которые не совсем соответствуют действительности. Как подтвердят люди в социальных сетях, ChatGPT может ошибаться более чем в одном случае.
знать компанию OpenAI Об этом ограничении я написал следующее: «ChatGPT иногда пишет ответы, которые кажутся разумными, но являются неверными или не имеют смысла». Эти «галлюцинации» фактов и вымыслов, как я их называю, особенно опасны, когда речь идет о таких вещах, как медицинские советы или правильное представление фактов о ключевых исторических событиях.
В отличие от других помощников ИИ, таких как Siri или Alexa, ChatGPT не использует Интернет для выбора ответов. Вместо этого он строит предложение слово в слово, выбирая наиболее вероятный «токен», который должен следовать дальше, на основе собственного обучения. Другими словами, ChatGPT приходит к ответу, делая ряд предположений, что является одной из причин, по которой он аргументирует неправильные ответы, как если бы они были абсолютно правильными.
Хотя он отлично объясняет сложные концепции, что делает его мощным инструментом обучения, важно не верить всему, что он говорит. ChatGPT не всегда прав — по крайней мере, пока. Проверять ChatGPT умеет шутить, но может ли ИИ заставить нас смеяться?
2. ChatGPT имеет предвзятость в своей модели
ChatGPT обучается на коллективных текстах, которые были написаны многими людьми по всему миру, в прошлом и настоящем. К сожалению, это означает, что те же предубеждения, которые существуют в реальном мире, могут проявляться и в модели.
Было показано, что ChatGPT дает ужасные ответы, дискриминирующие пол, этническую принадлежность и меньшинства, и это то, что компания пытается смягчить.
Один из способов объяснить эту проблему — указать на данные как на проблему, обвиняя человечество в предубеждениях, которые существуют в Интернете и за его пределами. Но часть ответственности также лежит на OpenAI, чьи исследователи и разработчики отбирают данные, используемые для обучения ChatGPT.
Опять же, OpenAI признает, что это проблема, и заявляет, что решает проблему, которую они называют «предвзятым поведением», собирая отзывы от пользователей, которым рекомендуется отмечать неверный вывод ChatGPT.
Вы можете возразить, что ChatGPT не следует публиковать, пока эти проблемы не будут изучены и решены, учитывая возможность причинения вреда людям. Но гонки за первым запуском самых мощных инструментов искусственного интеллекта может быть достаточно, чтобы OpenAI отбросил такую осторожность на ветер.
Напротив, аналогичный чат-бот с искусственным интеллектом под названием Sparrow, принадлежащий материнской компании Google, Alphabet, был запущен в сентябре 2022 года. Однако его намеренно держали за закрытыми дверями из-за аналогичных соображений безопасности.
Примерно в то же время Facebook выпустил языковую модель ИИ под названием Galactica, предназначенную для помощи в академических исследованиях. Его быстро отозвали после того, как многие пользователи раскритиковали его за предоставление ложных и предвзятых результатов, связанных с научными исследованиями.
3. ChatGPT может перенимать функции у людей
Шумиха вокруг быстрой разработки и развертывания ChatGPT еще не улеглась, но вы обнаружите, что эта базовая технология уже интегрирована в ряд коммерческих приложений. Среди приложений, которые интегрировали GPT-4, Duolingo и Khan Academy. Проверять Приложения, в основе которых лежит модель GPT-4, но как они работают?
Первое — это приложение, предназначенное для обучения новому языку, а второе — универсальный инструмент обучения, предлагающий множество курсов. Оба предлагают то, что по сути является репетитором ИИ, либо в виде персонажа с ИИ, с которым вы можете говорить на языке, который вы изучаете. Или в качестве наставника по искусственному интеллекту, который может предоставить вам персонализированную обратную связь о вашем обучении и прогрессе.
С одной стороны, это могло бы изменить то, как мы учимся, сделав обучение более доступным и немного облегчив овладение навыками. Обратной стороной, однако, является то, что это лишает людей работы, которую они долгое время занимали.
Технологический прогресс всегда приводил к сокращению рабочих мест, но скорость развития искусственного интеллекта означает, что многие отрасли сталкиваются с одной и той же проблемой. ChatGPT и лежащие в его основе технологии, от обучения до иллюстраций и обслуживания клиентов, радикально изменят наш современный мир. Проверять Как генеративный ИИ изменит рынок труда.
4. ChatGPT может бросить вызов языку, используемому в школе
Вы можете попросить ChatGPT проверить ваше письмо или указать, как улучшить абзац. Или вы можете полностью исключить себя из уравнения, и ChatGPT напишет все за вас.
Учителя экспериментировали с вводом заданий по английскому языку в ChatGPT и получали лучшие ответы, чем многие их ученики. От написания вступительных писем до описания основных тем в известном литературном произведении, ChatGPT может сделать все это без колебаний.
Возникает вопрос: если ChatGPT сможет писать нам, нужно ли будет студентам учиться писать в будущем? Это может показаться экзистенциальным вопросом, но когда учащиеся начнут использовать ChatGPT для помощи в написании своих эссе, школам придется думать о быстром ответе. Быстрое распространение искусственного интеллекта в последние годы потрясет многие отрасли, и образование — лишь одна из них.
5. ChatGPT может причинить реальный ущерб
Ранее мы упоминали, как неверная информация из ChatGPT может причинить вред в реальном мире, одним из таких примеров является неверный медицинский совет. Но есть и другие опасения.
Скорость, с которой может генерироваться естественно выглядящий текст, позволяет мошеннику очень легко выдавать себя за кого-то, кого вы знаете в социальных сетях. Точно так же будет сложнее обнаружить фишинговое электронное письмо, предназначенное для получения от вас конфиденциальных данных, с дополнительным преимуществом, заключающимся в том, что ChatGPT может создавать текст без грамматических ошибок, что ранее было очевидным предупреждающим знаком.
Распространение ложной информации также является серьезной проблемой. Масштаб, в котором ChatGPT может создавать текст, в сочетании с возможностью сделать неверную информацию убедительно достоверной, несомненно, сделает информацию в Интернете более сомнительной.
Скорость, с которой ChatGPT может предоставлять информацию, уже вызвала проблемы для Stack Exchange, веб-сайта, предназначенного для предоставления правильных ответов на повседневные вопросы. Вскоре после запуска ChatGPT пользователи начали наводнять сайт ответами, в которых просили ChatGPT сгенерировать его.
Без достаточного количества людей-добровольцев для сортировки отставания было бы невозможно поддерживать высокий уровень качества ответов. Не говоря уже о том, что многие ответы были просто неверными. Во избежание повреждения веб-сайта все ответы, сгенерированные с помощью ChatGPT, были забанены. Проверять Как дети могут безопасно использовать ChatGPT.
6. OpenAI обладает огромной силой
С большой силой приходит большая ответственность, и OpenAI обладает большой властью. Это одна из первых компаний, занимающихся искусственным интеллектом, которая действительно потрясла мир не одной, а несколькими моделями искусственного интеллекта, включая Dall-E 2, GPT-3 и GPT-4.
OpenAI выбирает данные, используемые для обучения ChatGPT, но эта информация не является общедоступной. Мы просто не знаем подробностей о том, как обучался ChatGPT, какие данные использовались, откуда они поступали или как в деталях выглядит архитектура системы.
Хотя OpenAI считает безопасность своим высоким приоритетом, мы многого не знаем о том, как будут работать сами модели, к лучшему или к худшему. Считаете ли вы, что код должен быть с открытым исходным кодом, или вы согласны с тем, что некоторые его части должны храниться в секрете, мы мало что можем с этим поделать.
В конце концов, мы должны слепо доверять OpenAI в исследованиях, разработке и ответственном использовании ChatGPT. Согласны мы с методами или нет, OpenAI продолжит развивать ChatGPT в соответствии со своими целями и этическими стандартами. Проверять Действительно ли OpenAI потерял контроль над чат-ботом ChatGPT?
Решите самые большие проблемы искусственного интеллекта
В ChatGPT есть много поводов для волнения, но помимо его непосредственного использования есть несколько серьезных проблем, которые стоит понять. OpenAI признает, что ChatGPT может давать злонамеренные и предвзятые ответы, надеясь смягчить проблему, собирая отзывы пользователей. Но его способность создавать убедительный текст, даже когда факты не соответствуют действительности, может быть легко использована людьми с недобрыми намерениями.
С совершенно новой технологией трудно предсказать проблемы, которые возникнут в будущем. Так что, хотя это может быть интересно использовать, не верьте всему, что говорит ChatGPT. Вы можете просмотреть сейчас Может ли ChatGPT предоставлять достоверную информацию о состоянии здоровья?
