La popularidad de la inteligencia artificial (IA) es un arma de doble filo. Como todo Tecnología disruptiva La inteligencia artificial ofrece un enorme potencial, pero también riesgos devastadores. A pesar del impulso definitivo para regular la IA, parece que los actores de amenazas han podido aprovechar las diversas técnicas disponibles para sembrar el pánico y apuntar a usuarios desprevenidos.
Un nuevo chatbot estilo ChatGPT, denominado FraudGPT, está ganando terreno entre los ciberdelincuentes, permitiéndoles automatizar y ejecutar una gran parte de las estafas estándar. Cualquiera puede convertirse en víctima, por lo que es importante mantenerse informado.
FraudGPT se puede utilizar para una variedad de propósitos maliciosos, incluida la difusión de noticias falsas y la incitación a la violencia. También se puede utilizar para robar información personal o defraudar a las personas. Aquí está todo lo que sabemos sobre FraudGPT hasta ahora. Verificar Por qué no deberías confiar en ChatGPT para compartir información confidencial con él.
¿Qué es FraudGPT?
FraudGPT es una herramienta de inteligencia artificial impulsada por un gran modelo de lenguaje ajustado para ayudar a los ciberdelincuentes a cometer delitos cibernéticos. Un chatbot basado en suscripción permite a los actores de amenazas facilitar sus actividades delictivas, como la creación de tarjetas falsas, el phishing y la creación de malware.
Aunque los detalles sobre el chatbot aún son muy limitados, los investigadores de la empresa Netenrich Inc., una firma de investigación de seguridad, ha publicado varios anuncios en la dark web anunciando este modelo. Según un informe de investigación de Netenrich, la tarifa de suscripción oscila entre $ 200 por mes y $ 1700 por año.
Para visualizar mejor la herramienta, puede pensar en FraudGPT como ChatGPT pero dedicado a proporcionar información diversa relacionada con el fraude. Pero, ¿cómo funciona exactamente FraudGPT y cómo lo utilizan los ciberdelincuentes?
¿Cómo funciona FraudGPT?
En esencia, FraudGPT no es muy diferente de cualquier modelo impulsado por LLM. En otras palabras, el formulario en sí mismo es una interfaz interactiva para que los delincuentes accedan a un tipo especial de formulario de lenguaje que está sintonizado para cometer delitos cibernéticos.
¿Aún no sabes lo que esto significa? He aquí una idea aproximada de lo que estamos hablando. En los primeros días de ChatGPT, un chatbot de IA podía usarse para hacer casi cualquier cosa, incluso ayudar a los ciberdelincuentes a crear malware. Esto fue posible porque el modelo de lenguaje base de ChatGPT se entrenó en un conjunto de datos que probablemente contenía muestras de una amplia gama de datos, incluidos datos que podrían ayudar a una empresa criminal.
Los grandes modelos de lenguaje generalmente se alimentan de todo, desde cosas buenas, como teorías científicas, información de salud y política, hasta datos no tan buenos, como muestras de códigos de malware, mensajes de ingeniería social y campañas de phishing, y otro material criminal. Cuando se trata del tipo de conjuntos de datos necesarios para entrenar modelos de lenguaje como el que admite ChatGPT, es casi inevitable que el modelo contenga muestras de spam.
A pesar de los esfuerzos generalmente meticulosos para eliminar el material no deseado del conjunto de datos, algunos se escapan, generalmente lo suficiente como para darle al modelo la capacidad de crear material para facilitar el ciberdelito. Es por eso que con la ingeniería rápida adecuada, puede aprovechar herramientas como ChatGPT, Google Bard y Bing AI para ayudarlo a escribir correos electrónicos fraudulentos o malware informático.
Si herramientas como ChatGPT pueden ayudar a los ciberdelincuentes a cometer delitos a pesar de todos los esfuerzos para hacer que estos chatbots inteligentes sean seguros, ahora considere el poder que una herramienta como FraudGPT puede brindar, considerando que ha sido alimentada específicamente con tantos materiales dañinos para que sean aptos para el ciberdelito. . Es como el gemelo malvado de ChatGPT reforzado.
Por lo tanto, para usar un chatbot, los delincuentes solo pueden reclamarlo como lo harían con ChatGPT. Podrían, por ejemplo, pedirle que escriba un correo electrónico de phishing a Jane Doe, que trabaja en ABC Corporation, o podrían pedirle que escriba malware usando C++ para robar todos los archivos PDF de una computadora con Windows 10. Básicamente, los delincuentes ingresarían un aviso Wicked y deja que el chatbot haga el trabajo pesado. Verificar ¿ChatGPT se convertirá en una amenaza para la ciberseguridad? Esto es lo que hay que tener en cuenta.
¿Cómo puede protegerse del fraude?
Aunque es un nuevo tipo de herramienta, la amenaza que plantea FraudGPT no es fundamentalmente diferente. Se podría argumentar que aporta más automatización y eficiencia a las formas ya establecidas de llevar a cabo el ciberdelito.
Los delincuentes que usan el modelo, al menos en teoría, podrían escribir correos electrónicos de phishing más convincentes, planificar mejores estafas y crear malware más efectivo, pero aún así suelen confiar en métodos establecidos para llevar a cabo sus nefastos planes. Como resultado, las formas establecidas para protegerse generalmente aún se aplican:
- Tenga cuidado con los mensajes de spam que le piden información o le indican que haga clic en los enlaces. No proporcione información ni haga clic en enlaces en estos mensajes a menos que haya verificado la fuente.
- Póngase en contacto con las empresas directamente utilizando un número independiente que ha sido verificado para garantizar su legitimidad. No utilice la información de contacto proporcionada en mensajes sospechosos.
- Utilice contraseñas seguras y únicas que sean difíciles de descifrar y adopte la autenticación de dos factores cuando esté disponible para todas las cuentas. Nunca comparta contraseñas o códigos que le hayan enviado.
- Verifique periódicamente los estados de cuenta en busca de actividades sospechosas.
- Mantenga las aplicaciones actualizadas y use herramientas antivirus o antimalware.
- Triture los documentos que contengan información financiera o de identificación personal cuando no los necesite.
Para obtener más información sobre cómo protegerse, lea nuestra guía sobre Cómo protegerse en la era de la inteligencia artificial.
Manténgase informado para protegerse
La aparición de herramientas como FraudGPT nos recuerda que, a pesar de todos los beneficios que la IA puede ofrecernos, sigue siendo una herramienta muy poderosa en manos de los actores de amenazas.
Dado que los gobiernos y las grandes empresas de IA se encuentran en una carrera frenética para promulgar mejores formas de regular la IA, es importante ser consciente de la amenaza que representa actualmente la IA y tomar precauciones para protegerse. Puedes ver ahora Inteligencia artificial y riesgos de privacidad: protección de sus datos en un mundo automatizado.
