ChatGPT es un nuevo chatbot de IA que es poderoso y de acción rápida, pero muchas personas han señalado que tiene algunas fallas graves. Pregúntele lo que quiera, y recibirá una respuesta que parece haber sido elaborada por un ser humano, al que se le ha dado el conocimiento y las habilidades de escritura del entrenamiento en grandes cantidades de datos en línea.
Sin embargo, al igual que Internet, la línea entre la realidad y la ficción es ciertamente fluida, y ChatGPT es culpable de cometer un error en más de una ocasión. Con ChatGPT listo para cambiar nuestro futuro, estas son algunas de nuestras mayores preocupaciones al respecto. Verificar ¿ChatGPT tiene problemas de privacidad?
¿Qué es Chat GPT?
ChatGPT es un paradigma de lenguaje natural diseñado para producir respuestas que se parecen mucho a las conversaciones humanas. Al igual que discutir con alguien, puede hablar con ChatGPT, y recordará las cosas que ha dicho en el pasado y también podrá corregir sus respuestas cuando lo desafíen.
Está capacitado en todo tipo de textos de Internet, puedes pensar en Wikipedia, publicaciones de blogs, libros y artículos académicos. Esto significa que además de responderte de forma humana, puede recordar información sobre nuestro mundo actual, así como extraer información histórica de nuestro pasado.
Aprender a usar ChatGPT es simple y es fácil dejarse engañar pensando que el sistema de IA funciona sin problemas. Sin embargo, en los meses transcurridos desde su lanzamiento, los usuarios de todo el mundo han llevado el chatbot de IA al límite, lo que ha provocado que se revelen algunos problemas importantes.
1. ChatGPT genera respuestas incorrectas
ChatGPT falla en matemáticas básicas, no parece responder preguntas lógicas simples e incluso llega a discutir hechos que no son del todo ciertos. Como lo atestiguan las personas en las redes sociales, ChatGPT puede salir mal en más de una ocasión.
conocer empresa OpenAI Sobre esta limitación, escribí lo siguiente: "ChatGPT a veces escribe respuestas que parecen razonables pero son incorrectas o no tienen sentido". Estas "alucinaciones" de realidad y ficción, como me refiero a ellas, son particularmente peligrosas cuando se trata de cosas como consejos médicos o obtener los hechos correctos sobre eventos históricos clave.
A diferencia de otros asistentes de IA como Siri o Alexa, ChatGPT no utiliza Internet para seleccionar respuestas. En cambio, construye una oración palabra por palabra, eligiendo el "token" más probable que debería venir a continuación, según su propio entrenamiento. En otras palabras, ChatGPT llega a una respuesta haciendo una serie de conjeturas, lo cual es parte de la razón por la que argumenta las respuestas incorrectas como si fueran exactamente correctas.
Si bien es excelente para explicar conceptos complejos, lo que lo convierte en una herramienta poderosa para el aprendizaje, es importante no creer todo lo que dice. ChatGPT no siempre tiene la razón, al menos no todavía. Verificar ChatGPT puede hacer bromas, pero ¿realmente la IA puede hacernos reír?
2. ChatGPT tiene un sesgo en su modelo
ChatGPT está capacitado en los textos colectivos que han sido escritos por muchas personas en todo el mundo, en el pasado y en el presente. Desafortunadamente, esto significa que los mismos sesgos que existen en el mundo real también pueden aparecer en el modelo.
Se ha demostrado que ChatGPT produce algunas respuestas terribles que discriminan el género, la etnia y las minorías, algo que la empresa está tratando de mitigar.
Una forma de explicar este problema es señalar los datos como el problema, culpando a la humanidad por los sesgos que están en línea y más allá. Pero parte de la responsabilidad también recae en OpenAI, cuyos investigadores y desarrolladores seleccionan los datos utilizados para entrenar ChatGPT.
Nuevamente, OpenAI reconoce que esto es un problema y ha dicho que está abordando lo que ellos llaman "comportamiento sesgado" mediante la recopilación de comentarios de los usuarios a quienes se les anima a marcar la mala salida de ChatGPT.
Con el potencial de dañar a las personas, se podría argumentar que ChatGPT no debería divulgarse al público antes de que se estudien y resuelvan estos problemas. Pero la carrera por ser la primera empresa en lanzar las herramientas de IA más poderosas puede ser suficiente para que OpenAI deje de lado esa precaución.
Por el contrario, en septiembre de 2022 se lanzó un chatbot de IA similar llamado Sparrow, propiedad de la empresa matriz de Google, Alphabet. Sin embargo, se mantuvo deliberadamente a puerta cerrada debido a preocupaciones de seguridad similares.
Casi al mismo tiempo, Facebook lanzó un modelo de lenguaje de IA llamado Galactica, destinado a ayudar en la investigación académica. Se retiró rápidamente después de que muchos usuarios lo criticaran por producir resultados falsos y sesgados relacionados con la investigación científica.
3. ChatGPT puede tomar funciones de humanos
La exageración que rodea el rápido desarrollo e implementación de ChatGPT no se ha calmado, pero descubrirá que esta tecnología central ya está integrada en una serie de aplicaciones comerciales. Entre las aplicaciones que han integrado GPT-4 se encuentran Duolingo y Khan Academy. Verificar Aplicaciones que han integrado el modelo GPT-4 en su núcleo, pero ¿cómo funcionan?
La primera es una aplicación dedicada a la enseñanza de un nuevo idioma, mientras que la segunda es una herramienta de aprendizaje versátil que ofrece toneladas de cursos. Ambos ofrecen lo que es esencialmente un tutor de IA, ya sea en forma de un personaje impulsado por IA con el que puede hablar en el idioma que está aprendiendo. O como tutor de IA que puede brindarle comentarios personalizados sobre su aprendizaje y progreso.
Por un lado, podría cambiar la forma en que aprendemos, haciendo que la enseñanza sea más accesible y que el dominio de las habilidades sea un poco más fácil. La desventaja, sin embargo, es que esto elimina trabajos que los humanos han tenido durante mucho tiempo.
Los avances tecnológicos siempre han llevado a la pérdida de empleos, pero la velocidad del avance de la inteligencia artificial significa que hay muchas industrias que enfrentan el mismo problema. Desde la educación hasta la ilustración y los roles de servicio al cliente, ChatGPT y su tecnología subyacente remodelarán radicalmente nuestro mundo moderno. Verificar Las formas en que la IA generativa cambiará el mercado laboral.
4. ChatGPT puede desafiar el lenguaje utilizado en la escuela
Puede pedirle a ChatGPT que revise su escritura o indique cómo mejorar un párrafo. O puede eliminarse completamente de la ecuación y hacer que ChatGPT escriba todo por usted.
Los profesores han experimentado con la introducción de tareas de inglés en ChatGPT y han recibido mejores respuestas que muchos de sus alumnos. Desde escribir cartas de presentación hasta describir los temas principales de una obra literaria famosa, ChatGPT puede hacerlo todo sin dudarlo.
Esto plantea la pregunta: si ChatGPT puede escribirnos, ¿los estudiantes necesitarán aprender a escribir en el futuro? Puede parecer una pregunta existencial, pero cuando los estudiantes comiencen a usar ChatGPT para escribir sus ensayos, las escuelas tendrán que pensar en una respuesta rápida. La rápida difusión de la inteligencia artificial en los últimos años sorprenderá a muchas industrias, y la educación es solo una de ellas.
5. ChatGPT puede causar daños en el mundo real
Anteriormente, mencionamos cómo la información incorrecta de ChatGPT puede causar daño en el mundo real, y uno de esos ejemplos es un consejo médico incorrecto. Pero también hay otras preocupaciones.
La velocidad con la que se puede generar un texto de apariencia natural hace que sea muy fácil para un estafador hacerse pasar por alguien que usted conoce en las redes sociales. Del mismo modo, será más difícil detectar un correo electrónico de phishing diseñado para extraerle detalles confidenciales, con el beneficio adicional de que ChatGPT puede producir texto sin errores gramaticales, lo que anteriormente era una señal de advertencia obvia.
Difundir información falsa también es una preocupación seria. La escala a la que ChatGPT puede producir texto, junto con la capacidad de hacer que la información incorrecta parezca convincentemente verdadera, seguramente hará que la información en Internet sea más cuestionable.
La velocidad a la que ChatGPT puede producir información ya ha causado problemas a Stack Exchange, un sitio web dedicado a brindar respuestas correctas a las preguntas cotidianas. Poco después del lanzamiento de ChatGPT, los usuarios comenzaron a inundar el sitio con respuestas que le pedían a ChatGPT que lo generara.
Sin suficientes voluntarios humanos para resolver el retraso, sería imposible mantener un alto nivel de respuestas de calidad. Sin mencionar que muchas de las respuestas eran simplemente incorrectas. Para evitar daños al sitio web, todas las respuestas generadas con ChatGPT han sido prohibidas. Verificar Formas en que los niños pueden usar ChatGPT de manera segura.
6. OpenAI tiene mucho poder
Un gran poder conlleva una gran responsabilidad, y OpenAI tiene mucho poder. Es una de las primeras empresas de IA en sacudir realmente al mundo no con uno, sino con múltiples modelos de IA, incluidos Dall-E 2, GPT-3 y GPT-4.
OpenAI selecciona los datos utilizados para entrenar ChatGPT, pero esta información no está disponible públicamente. Simplemente no conocemos los detalles de cómo se entrenó ChatGPT, qué datos se usaron, de dónde provinieron los datos o cómo se ve la arquitectura del sistema en detalle.
Si bien OpenAI considera que la seguridad es una alta prioridad, hay muchas cosas que no sabemos sobre cómo funcionarán los modelos, para bien o para mal. Ya sea que piense que el código debe ser de código abierto o que esté de acuerdo en que debe mantener partes de él en secreto, no hay mucho que podamos hacer al respecto.
Al final del día, tenemos que confiar ciegamente en OpenAI para investigar, desarrollar y usar ChatGPT de manera responsable. Ya sea que estemos de acuerdo con los métodos o no, OpenAI continuará desarrollando ChatGPT de acuerdo con sus propios objetivos y estándares éticos. Verificar ¿OpenAI realmente ha perdido el control del chatbot ChatGPT?
Abordar los mayores problemas de la inteligencia artificial
Hay mucho por lo que emocionarse con ChatGPT, pero más allá de sus usos inmediatos, hay algunos problemas serios que vale la pena entender. OpenAI reconoce que ChatGPT puede producir respuestas maliciosas y sesgadas, con la esperanza de mitigar el problema recopilando comentarios de los usuarios. Pero su capacidad para producir textos convincentes, incluso cuando los hechos no son ciertos, puede ser utilizada fácilmente por personas con malas intenciones.
Con una tecnología completamente nueva, es difícil predecir los problemas que surgirán en el futuro. Entonces, si bien puede ser divertido de usar, asegúrese de no creer todo lo que dice ChatGPT. Puedes ver ahora ¿ChatGPT puede proporcionar información de salud confiable?
