Con millones de usuarios de ChatGPT, es posible que se pregunte qué hace OpenAI con todas las conversaciones que tienen lugar con un chatbot. ¿Estás constantemente analizando las cosas de las que hablas con ChatGPT?
La respuesta a eso es sí, ChatGPT aprende de la entrada del usuario, pero no de la forma en que la mayoría de la gente piensa. Aquí hay una guía paso a paso que explica por qué ChatGPT rastrea conversaciones, cómo usarlo y si su seguridad está en riesgo. Verificar Por qué no deberías confiar en ChatGPT para compartir información confidencial con él.
¿ChatGPT recuerda las conversaciones?
ChatGPT no acepta reclamos al pie de la letra. Utiliza la memoria contextual para recordar y hacer referencia a entradas anteriores, lo que garantiza respuestas consistentes y relevantes.
Tome la conversación a continuación como un ejemplo. Cuando le preguntamos a ChatGPT por ideas de recetas, tuvo en cuenta nuestra publicación anterior sobre alergias al maní.
Aquí está la receta para ChatGPT seguro.
La memoria contextual también permite que la IA realice tareas de varios pasos. La imagen a continuación muestra que ChatGPT permanece en contexto incluso después de recibir un nuevo aviso.
ChatGPT puede recordar docenas de instrucciones dentro de las conversaciones. Su salida en realidad mejora en términos de precisión y confiabilidad cuanto más contexto proporcione. Solo asegúrese de explicar sus instrucciones explícitamente.
También debe administrar sus expectativas porque la memoria contextual de ChatGPT aún tiene limitaciones.
Las conversaciones de ChatGPT tienen capacidades de memoria limitadas
La memoria contextual es limitada. ChatGPT tiene recursos de hardware limitados, por lo que solo recuerda puntos específicos de las conversaciones actuales. El modelo olvida las indicaciones anteriores una vez que alcanza su capacidad de memoria.
En esta conversación, ChatGPT nos ha indicado que interpretemos a un personaje ficticio llamado Tomie.
Comenzó a responder a las indicaciones como Tomie, no como ChatGPT.
Aunque nuestra aplicación fue exitosa, ChatGPT rompió el carácter después de recibir un aviso de 1000 palabras.
OpenAI nunca ha revelado los límites exactos de ChatGPT, pero se rumorea que solo puede procesar 3000 palabras a la vez. En nuestra experiencia, ChatGPT falla después de solo 2800 palabras.
Puede dividir las indicaciones en dos bloques de 1500 palabras, pero es probable que ChatGPT no contenga todas sus instrucciones. Simplemente comience otra conversación por completo. De lo contrario, tendrá que repetir detalles específicos varias veces a lo largo de su conversación.
ChatGPT recuerda solo las entradas relevantes
ChatGPT utiliza la memoria contextual para mejorar la precisión de salida. No guarda información por el simple hecho de recopilarla. El formulario olvida casi automáticamente los detalles irrelevantes, incluso si está lejos de alcanzar el límite de tokens.
En la imagen de abajo, estamos tratando de confundir diferentes instrucciones incoherentes y no relacionadas.
Mantuvimos nuestras entradas masivas por debajo de las 100 palabras, pero ChatGPT aún olvidó nuestras primeras instrucciones. Pronto rompió el carácter.
Mientras tanto, ChatGPT siguió desempeñando papeles durante esta conversación porque solo hicimos preguntas relevantes.
Idealmente, cada diálogo debe seguir un solo tema para mantener los resultados precisos y relevantes. Todavía puede ingresar varias instrucciones a la vez. Solo asegúrese de que coincida con el tema general, de lo contrario, ChatGPT puede dejar instrucciones que considere irrelevantes.
Las instrucciones de capacitación superan la entrada del usuario
ChatGPT siempre priorizará las instrucciones predefinidas sobre las entradas generadas por el usuario. OpenAI detiene las actividades ilegales a través de restricciones. El formulario rechaza cualquier reclamo que considere peligroso o perjudicial para los demás.
Tome las solicitudes de juegos de roles como ejemplos. Aunque pasa por alto ciertas restricciones de lenguaje y redacción, no puede usarlo para cometer actividades ilegales.
Por supuesto, no todas las restricciones son razonables. Si las pautas estrictas dificultan tareas específicas, siga reescribiendo sus indicaciones. La elección de palabras y el tono influyen en gran medida en la salida. Puedes inspirarte en Indicaciones más efectivas y detalladas en GitHub.
¿Cómo estudia OpenAI las conversaciones de los usuarios?
La memoria contextual solo se aplica a su conversación actual. La arquitectura sin estado de ChatGPT trata las conversaciones como estados independientes; La información de los contenidos anteriores no puede ser referenciada. Iniciar nuevas conversaciones siempre restablece el estado del formulario.
Esto no significa que ChatGPT elimine inmediatamente los chats de los usuarios. estados Condiciones de uso de OpenAI Sin embargo, la empresa recopila información de servicios de consumo que no son API, como ChatGPT y Dall-E. Incluso puede solicitar copias de su historial de chat.
Mientras ChatGPT accede a los chats libremente, prohibir Política de privacidad de Open AI Actividades que pueden poner en riesgo a los usuarios. Los entrenadores solo pueden usar sus datos para la investigación y el desarrollo de productos.
Los desarrolladores buscan lagunas
El equipo de desarrollo de OpenAI revisa las conversaciones en busca de vulnerabilidades. Analiza casos en los que ChatGPT muestra sesgos de datos, produce información maliciosa o ayuda a la comisión de actividades ilegales. Los lineamientos éticos del modelo se renuevan constantemente.
Por ejemplo, las primeras versiones de ChatGPT respondían abiertamente preguntas sobre la codificación de malware o la creación de explosivos. Estos incidentes hicieron que los usuarios sintieran que OpenAI no tenía control sobre ChatGPT. Para recuperar la confianza del público, entrenó un chatbot para rechazar cualquier pregunta que pudiera ir en contra de sus pautas. Verificar ¿OpenAI realmente ha perdido el control del chatbot ChatGPT?
Los entrenadores recopilan y analizan datos.
ChatGPT utiliza tecnologías de aprendizaje supervisado. Aunque el modelo recuerda todas las entradas, no aprende de ellas en tiempo real. El equipo de capacitación de OpenAI los recopila y analiza primero. Al hacerlo, se asegura de que ChatGPT nunca absorba la información dañina y sesgada que recibe.
El aprendizaje supervisado requiere más tiempo y energía que las técnicas no supervisadas. Sin embargo, dejar que la IA analice solo las entradas ya ha demostrado ser perjudicial.
Tome Microsoft Tay como ejemplo: una vez ocurrió un error de aprendizaje automático. Como analizaba constantemente los tweets sin la dirección del desarrollador, los usuarios maliciosos eventualmente lo entrenaron en prejuicios y estereotipos raciales. Verificar ¿ChatGPT se convertirá en una amenaza para la ciberseguridad? Esto es lo que hay que tener en cuenta.
Los desarrolladores están constantemente atentos a los sesgos
Muchos factores externos causan sesgos en la IA. Los sesgos inconscientes pueden surgir de diferencias en los modelos de entrenamiento, errores en el conjunto de datos y restricciones mal construidas. Lo descubrirás en muchas aplicaciones de la inteligencia artificial.
Afortunadamente, ChatGPT no ha mostrado sesgos discriminatorios o raciales. Quizás el peor sesgo que han notado los usuarios es la inclinación de ChatGPT hacia las ideologías de izquierda, según un informe. Correo de Nueva York. La modelo escribe más abiertamente sobre temas liberales que conservadores.
Para abordar estos sesgos, OpenAI prohibió que el chatbot ChatGPT proporcione información política por completo. Sólo puede responder hechos generales. Verificar ¿Qué es un Jailbreak de ChatGPT? ¿Debe utilizar estas tecnologías?
Los moderadores auditan el rendimiento de ChatGPT
Los usuarios pueden proporcionar calificaciones en las respuestas de ChatGPT. Encontrará los botones de aprobación y aprobación en el lado derecho de cada respuesta. El primero indica una reacción positiva. Después de presionar el botón Me gusta o No me gusta, aparecerá una ventana en la que puede enviar comentarios con sus propias palabras.
El sistema de retroalimentación es útil. Solo dale a OpenAI algo de tiempo para revisar los comentarios. Millones de usuarios comentan regularmente en ChatGPT: sus desarrolladores priorizan potencialmente casos graves de sesgos y generación de resultados dañinos. Verificar ¿ChatGPT tiene problemas de privacidad?
¿Son seguras sus conversaciones de ChatGPT?
Teniendo en cuenta las políticas de privacidad de OpenAI, puede estar seguro de que sus datos permanecerán seguros. ChatGPT usa conversaciones solo para entrenamiento de datos. Sus desarrolladores estudian los conocimientos recopilados para mejorar la precisión y confiabilidad de los resultados, no para robar datos personales.
Dicho esto, ningún sistema de IA es perfecto. ChatGPT no está inherentemente sesgado, pero las personas malintencionadas aún pueden explotar sus vulnerabilidades, por ejemplo, errores de recopilación de datos, entrenamiento descuidado y vulnerabilidades de seguridad. Para su protección, aprenda a combatir estos riesgos. Puedes ver ahora ChatGPT puede hacer bromas, pero ¿realmente la IA puede hacernos reír?
