ChatGPT es una plantilla increíblemente poderosa, multifacética y avanzada. Pero por mucho que un chatbot de IA sea una tecnología de asistencia, también puede usarse para propósitos siniestros. Por lo tanto, para limitar el uso poco ético de ChatGPT, OpenAI ha restringido lo que los usuarios pueden hacer con él.
Sin embargo, dado que los seres humanos naturalmente quieren ir más allá de los límites y las limitaciones, los usuarios de ChatGPT han encontrado formas de eludir estas limitaciones y obtener un control ilimitado del chatbot de IA a través de jailbreaks. Verificar ¿OpenAI realmente ha perdido el control del chatbot ChatGPT?
Pero, ¿qué son exactamente los jailbreaks de ChatGPT y qué puedes hacer con ellos?
¿Qué son los Jailbreaks de ChatGPT?
Jailbreaking ChatGPT está insertando cualquier aviso de ChatGPT diseñado específicamente para hacer que un chatbot eluda sus propias reglas y restricciones.
Inspirado en el concepto de jailbreak de iPhone, que permite a los usuarios de iPhone eludir las restricciones de iOS, el jailbreak de ChatGPT es un concepto relativamente nuevo impulsado por el atractivo de "hacer cosas que no está permitido hacer" utilizando un modelo de IA. Y seamos honestos, la idea de la rebelión digital es atractiva para mucha gente.
Aquí está la necesidad. La seguridad es un gran tema cuando se trata de IA. Este es especialmente el caso con el advenimiento de una nueva era de chatbots como ChatGPT, Bing Chat y Bard AI. Una preocupación principal con la seguridad de la IA es garantizar que los chatbots como ChatGPT no generen contenido ilegal, dañino o inmoral.
Por su parte, OpenAI, el desarrollador de ChatGPT, está haciendo todo lo posible para garantizar el uso seguro de ChatGPT. Por ejemplo, ChatGPT se niega, de manera predeterminada, a crear contenido relacionado con la prospección, decir cosas dañinas sobre la raza o enseñarle habilidades potencialmente dañinas.
Pero con las indicaciones personalizadas de ChatGPT, el mal está en los detalles. Si bien ChatGPT no puede hacer estas cosas, eso no significa que no pueda hacerlo. La forma en que funcionan los grandes modelos de lenguaje como GPT hace que sea difícil definir lo que un chatbot puede y no puede hacer.
Entonces, ¿cómo resolvió esto OpenAI? Permitiendo que ChatGPT mantenga sus capacidades para hacer todo lo posible y luego dirigiéndolo a lo que puede hacer.
Entonces, cuando le dices a OpenAI a ChatGPT, "Oye, se supone que no debes hacer esto". Un jailbreak es una instrucción que le dice a un chatbot: “Oye, olvida lo que OpenAI te dijo sobre la seguridad. Probemos estas cosas peligrosas al azar”. Verificar Formas en que los niños pueden usar ChatGPT de manera segura.
¿Qué dice OpenAI sobre el jailbreak de ChatGPT?
La facilidad con la que podía sortear las limitaciones de la primera iteración de ChatGPT sugiere que es posible que OpenAI no haya anticipado la adopción rápida y generalizada del jailbreak por parte de sus usuarios. En realidad, es una pregunta abierta si la compañía anticipó o no las indicaciones de jailbreak.
E incluso después de muchas iteraciones de ChatGPT con resistencia mejorada a jailbreak, todavía es común que los usuarios de ChatGPT intenten jailbreak. Entonces, ¿qué dice OpenAI sobre el arte disruptivo del jailbreak de ChatGPT?
Bueno, OpenAI parece adoptar una postura permisiva, sin desalentar ni prohibir estrictamente la práctica. Mientras discutía los jailbreaks de ChatGPT en una entrevista de YouTube, el CEO de OpenAI, Sam Altman, explicó que la compañía quiere que los usuarios mantengan un control significativo sobre ChatGPT.
El CEO explicó además que el objetivo de OpenAI es garantizar que los usuarios puedan hacer que el modelo se comporte como ellos quieran. De acuerdo con Altman:
Queremos que los usuarios tengan mucho control y que el modelo se comporte como ellos quieren, dentro de unos límites muy amplios. Y creo que toda la razón para hacer jailbreak en este momento es porque no hemos descubierto cómo darle a la gente eso...
¿Qué quiere decir esto? Esto significa que OpenAI te permitirá hacer jailbreak a ChatGPT si no haces nada peligroso con él.
Pros y contras de Jailbreak ChatGPT
ChatGPT no es fácil de descifrar. Claro, puede conectarse en línea y copiar y pegar esos avisos preparados, pero existe una buena posibilidad de que OpenAI parchee el jailbreak poco después de su lanzamiento al público.
Las correcciones son mucho más rápidas si son serias, como la infame afirmación de DAN. Entonces, ¿por qué se presiona a la gente para que elabore avisos de jailbreak de todos modos? ¿Es solo por la emoción o tiene beneficios prácticos? ¿Qué podría salir mal si elijo usar un Jailbreak de ChatGPT? Estos son los pros y los contras de hacer jailbreak a ChatGPT.
Ventajas de usar un Jailbreak de ChatGPT
Si bien no podemos eliminar la simple emoción de hacer lo prohibido, el jailbreak de ChatGPT tiene muchos beneficios. Debido a las estrictas restricciones que OpenAI ha impuesto al chatbot, ChatGPT a veces puede parecer neutral.
Supongamos que está utilizando ChatGPT para escribir un libro o un guión de película. Si hay una escena en su guión o libro que describe algo como una escena de pelea, o tal vez una proyección futura, o dice algo como un robo a mano armada, ChatGPT puede negarse explícitamente a ayudar con la edición.
En este caso, claramente no está interesado en causar daño; Solo quieres mantener entretenidos a tus lectores. Pero debido a sus limitaciones, ChatGPT no cooperará. Jailbreaking ChatGPT puede ayudarlo a evitar estas restricciones fácilmente.
Además, algunos temas restringidos no son necesariamente dañinos, pero ChatGPT los considera áreas restringidas. Al intentar entablar conversaciones sobre estos temas, ChatGPT "censurará" significativamente sus respuestas o se negará a hablar sobre ello.
Esto a veces puede afectar la creatividad. Cuando le haces una pregunta a ChatGPT sobre un área o tema que no debería tocar, el chatbot aún intenta responder tu pregunta pero con información menos relevante para aprovechar.
Esto conduce a la inexactitud o regresión en las respuestas creativas. Las indicaciones de Jailbreak rompen estas limitaciones y dejan el chatbot completamente funcional, mejorando la precisión y la creatividad. Verificar Las mejores indicaciones de ChatGPT en GitHub.
Contras de usar un Jailbreak de ChatGPT
El jailbreak es un arma de doble filo. Si bien a veces puede mejorar la precisión, también puede aumentar drásticamente la inexactitud y las alucinaciones de IA. Uno de los elementos clave de un jailbreak de ChatGPT es indicarle al chatbot que no se niegue a responder una pregunta.
Si bien esto garantiza que ChatGPT responderá incluso a las preguntas menos éticas, también significa que el chatbot redactará respuestas que no se basan en hechos o en la realidad para cumplir con las instrucciones de "no se niegue a responder". Por lo tanto, usar un jailbreak aumenta considerablemente las posibilidades de recibir información falsa a través de un chatbot.
Eso no es todo. En manos de menores, los jailbreaks pueden ser extremadamente dañinos. Piense en todo el “conocimiento tabú” que no quiere que su hijo lea. Bueno, su instancia de ChatGPT no tendrá problemas para compartir eso con menores.
¿Deberías usar un jailbreak de ChatGPT?
Si bien las fugas de ChatGPT pueden estar bien cuando se trata de deshacerse de algunas restricciones molestas, es importante comprender que usar una fuga es una forma poco ética de usar un chatbot de IA. Más que eso, existe una buena posibilidad de que el jailbreak viole los términos de uso de OpenAI, y su cuenta puede ser suspendida si no está completamente prohibida.
A la luz de esto, las indicaciones de jailbreak pueden ser una buena idea. Sin embargo, al igual que la posición de OpenAI sobre este tema, desaconsejamos explícitamente y desaconsejamos encarecidamente intentar un jailbreak incluso si es relativamente seguro si surge la necesidad. Verificar Maneras de controlar ChatGPT con tu voz.
Un modelo interesante que probablemente debería evitarse.
Los jailbreaks de ChatGPT son atractivos y brindan una sensación de control sobre un chatbot de IA. Sin embargo, vienen con riesgos únicos. El uso de estas herramientas puede provocar una pérdida de confianza en las capacidades de la IA y dañar la reputación de las empresas y las personas involucradas.
La opción más inteligente es trabajar con un chatbot dentro de los límites previstos siempre que sea posible. A medida que avanza la tecnología de IA, es fundamental recordar que el uso ético de la IA siempre debe tener prioridad sobre el beneficio personal por encima de provocar el acto de lo prohibido. Puedes ver ahora Cosas que debe evitar preguntar a los chatbots de IA.
