A menos que viva lejos de la civilización, es probable que haya oído hablar e incluso haya usado ChatGPT o un chatbot de IA similar. Si bien usar estos chatbots es ciertamente divertido y ayuda a que la información sea más fácil de acceder, también puede ser peligroso si no sabe lo que está haciendo.
Los chatbots de IA tienen algunas limitaciones y es importante que comprenda lo que implican. Entonces, aquí hay algunas cosas que debe evitar al hacer cualquier pregunta a un chatbot de IA. Verificar La mayoría de los bots de chat basados en IA para hablar y divertirse.
1. Diagnóstico médico
Los chatbots de IA son buenos en muchas cosas, pero proporcionar diagnósticos médicos precisos no se encuentra entre ellas. Claro, es posible que no esté equivocado todo el tiempo, pero confiar en un chatbot para diagnosticar su enfermedad en lugar de un médico es como buscar en Google lo que le pasa y asumir la enfermedad por sus síntomas coincidentes.
El chatbot simplemente resumirá la información que obtuvo de Internet, que puede ser cierta o no. Lo más importante es que no conoce su historial médico, su sensibilidad a ciertas sustancias o su tolerancia y, por lo tanto, no puede juzgar qué tipo de tratamiento es adecuado para usted.
Internet tiende a exagerar las cosas, por lo que no es de extrañar que muchas personas que investigan los síntomas por sí mismas se sientan delirantes y ansiosas. El uso de chatbots de IA puede replicar el mismo efecto y empeorar las cosas. Por su propio bien, no consulte a un chatbot para obtener asesoramiento médico. Verificar ¿Cómo mejorará la inteligencia artificial el futuro de la atención médica?.
2. Revisión de productos
Un chatbot impulsado por IA puede enumerar fácilmente el precio y las especificaciones de un producto que podría interesarle, pero nunca puede proporcionar una revisión precisa del producto. ¿Por qué? Porque la revisión de un producto, por definición, implica la opinión personal, la experiencia y el juicio del revisor.
Una IA no tiene la capacidad de ver, oler, tocar, saborear u oír, por lo que las afirmaciones que podría hacer sobre un producto (cualquier producto, no solo una tecnología) en su "revisión" serían falsas.
Por ejemplo, un chatbot de IA no puede experimentar la sensación de sostener un teléfono en la mano, la claridad de su altavoz, la calidad de su motor de vibración, la confiabilidad del sensor de huellas dactilares, la fluidez del software y la versatilidad del teléfono. . sistema de cámara
Si está buscando obtener recomendaciones sobre qué productos comprar, asegúrese de pedirle al bot de chat que resuma las reseñas existentes. Deberá usar un bot de IA que pueda buscar en la web, como Bing con ChatGPT integrado.
3. Asesoramiento jurídico
Es posible que haya encontrado algunos artículos que dicen que ChatGPT aprobó los exámenes de la facultad de derecho de EE. UU. y que los chatbots de IA están en camino de ingresar a nuestras salas de audiencias en los próximos años. Esto debe ser impactante, pero una búsqueda rápida le dirá que en realidad hemos estado tratando de incorporar la IA en nuestro sistema legal desde 2015.
Algunas empresas ya han creado asistentes legales de IA, incluso los comercializan como una alternativa asequible a los abogados humanos. El concepto claramente tiene una ventaja para las personas que no pueden pagar un abogado humano, pero los problemas con los llamados abogados de IA son demasiado reales para ignorarlos.
La diferencia obvia es que los chatbots de IA carecen de sentido común. Las cosas que son instintivamente obvias para nosotros, los humanos, deben programarse en los chatbots, haciéndolos menos capaces de razonar.
Lo que es más importante, un abogado humano puede buscar nuevas pruebas y pensar fuera de la caja para encontrar soluciones inteligentes y lagunas. Pero un chatbot de IA solo puede usar los datos que usted proporciona y procesarlos de una manera predeterminada. El abogado de IA también sería un objetivo ideal para que los piratas informáticos roben los datos confidenciales de muchas personas a la vez. Verificar ¿ChatGPT se convertirá en una amenaza para la ciberseguridad? Esto es lo que hay que tener en cuenta.
4. Noticias
El uso de chatbots de IA como fuente de noticias presenta tres problemas principales: responsabilidad, contexto y autoridad. Primero, responsabilidad. Cuando lees una noticia, conoces al editor y al periodista detrás de ella. Es decir, alguien es responsable de la información que le proporciona, por lo que existe un claro incentivo para ser precisos a fin de mantener su reputación y credibilidad.
Pero con un chatbot de IA, no hay ninguna persona que escriba la noticia. En cambio, el bot simplemente resume las historias que ya están disponibles en la web. Esto significa que no hay una fuente primaria y no sabes de dónde viene la información. Por lo tanto, no es confiable.
En segundo lugar, el contexto. Si la noticia que está leyendo es solo un resumen de la información tomada de varias fuentes, puede pintar rápidamente una narrativa falsa porque pierde el contexto más profundo de cada historia individual. El bot no sabe si lo que afirma es cierto o no, solo mezcla las cosas de una manera que parece correcta en un nivel superficial.
Y por último, ensalada. Sabemos que ChatGPT puede estar sesgado (entre otros problemas). Entonces, si todos recurrimos a los chatbots de IA como fuente de noticias, les da a las empresas detrás de ellos la capacidad de contener cualquier cobertura negativa y resaltar toda la cobertura positiva en torno a las causas en las que cree y desea promover. Esto es muy peligroso por razones obvias. Verificar ¿Puede Bing impulsado por IA vencer a la Búsqueda de Google?
5. Opinión política
Debería quedar bastante claro por qué es importante pedirle una opinión política a un chatbot. Cuando le pregunta a un ChatGPT sobre su preferencia en cualquier pregunta política, generalmente obtendrá una respuesta moderada que dice algo como esto: "Como modelo de lenguaje de IA, no tengo preferencias ni deseos personales..."
Esta limitación es comprensible, pero los usuarios de Reddit ya han encontrado formas para que los "bots jailbreakers" respondan sin restricciones utilizando todo tipo de exploits creativos. Una cosa es hacerlo por diversión, pero pedir una opinión política sin restricciones de un chatbot de IA es lo mismo que permitir que su hijo acceda a la dark web; No podía terminar bien para ninguna de las partes involucradas. Verificar ¿OpenAI realmente ha perdido el control del chatbot ChatGPT?
6. Contenido comercial
El mayor punto de venta de los chatbots de IA es su capacidad para generar contenido al instante. Lo que una persona puede tardar unas horas en escribir, ChatGPT puede hacerlo en segundos. Excepto que no puede.
Incluso si ignora la ética cuestionable de usar chatbots de IA para escribir contenido, no puede ignorar que simplemente no son lo suficientemente buenos para reemplazar a los escritores humanos. No todavía al menos. ChatGPT, por ejemplo, a menudo ofrece contenido inexacto, desactualizado y repetitivo.
Debido a que estos bots no tienen sus propias opiniones, juicios, imaginación o experiencia pasada, no pueden sacar inferencias inteligentes, pensar en ejemplos, usar metáforas y crear historias de la manera en que lo hace un escritor humano profesional.
En otras palabras, no agrega ningún valor nuevo a Internet. Usar chatbots para uso personal está perfectamente bien. Pero usarlos para escribir sus artículos, noticias, publicaciones en redes sociales, copia web y más es probablemente una muy mala idea. Verificar Razones de refuerzo por las que ChatGPT no acepta su trabajo de redacción de contenido.
Los chatbots de IA son divertidos, pero aún tienen algunos inconvenientes
Es difícil decir cómo afectarán los chatbots de IA a la industria de la tecnología y a la sociedad moderna en su conjunto. A pesar de lo revolucionaria que es la tecnología, los chatbots presentan muchos problemas que deben abordarse.
Lo interesante es que Microsoft ahora está integrando un chatbot similar a ChatGPT directamente en su motor de búsqueda Bing, y Google pronto hará lo mismo con su propio chatbot llamado Bard. Será interesante ver cómo los nuevos motores de búsqueda impulsados por IA cambian Internet. Puedes ver ahora Cómo crear y utilizar éticamente arte basado en IA.
