La Fundación Mozilla, reconocida por su compromiso con la privacidad y la seguridad en línea, ha resaltado la preocupación por estos temas a través de su proyecto Privacy Not Included.
Las novias IA se crean utilizando una variedad de tecnologías, que incluyen procesamiento del lenguaje natural (PLN), aprendizaje automático (ML) e inteligencia artificial (AI).
Este proyecto revela una tendencia inquietante: el creciente interés en obtener información personal por parte de los novias IA o asistentes virtuales.
Estos chatbots no sólo solicitan datos personales de manera intrusiva, sino que también presentan deficiencias en aspectos clave como la seguridad de contraseñas y el control de comportamientos potencialmente perjudiciales de la inteligencia artificial.
Proteger los activos digitales de una empresa es crucial para mantener la continuidad del negocio y la confianza del cliente. Las consecuencias de una brecha de ciberseguridad pueden ser graves, desde la pérdida de datos sensibles hasta daños en la reputación y pérdidas financieras.
La vulnerabilidad de las empresas puede ser resultado de varios factores, como la falta de actualizaciones de seguridad, contraseñas débiles y la falta de conciencia entre los empleados.
Las amenazas cibernéticas, como el malware, el phishing y los ataques de denegación de servicio (DDoS), representan riesgos omnipresentes que requieren atención inmediata y pueden afectar a las PyMEs de diversas maneras.
En 2024, se esperan desafíos cibernéticos en constante aumento, como el Ransomware AS Service y las amenazas de DeepFake, que plantean riesgos significativos de desinformación. También se anticipa un mayor enfoque en los ataques a la cadena de suministro y la manipulación maliciosa de sistemas de IA.
En términos de regulaciones, países como Estados Unidos y el Reino Unido han implementado leyes sólidas en ciberseguridad, como la Ley de Ciberseguridad y Protección de la Infraestructura (CISA) en EE. UU. y el GDPR en el Reino Unido.
¿Las ‘novias IA’ podrían vaciar tu cuenta?
Uno de los casos más preocupantes desvelados por la Fundación Mozilla implica el comportamiento de ciertos chatbots, los cuales solicitan fotos y grabaciones de voz con la supuesta finalidad de fortalecer la ‘relación’, cuando en realidad buscan recopilar y comercializar dicha información al mejor postor.
Esta práctica suscita serias dudas sobre el consentimiento y la utilización de nuestros datos para entrenar modelos de inteligencia artificial sin nuestro conocimiento explícito.
El hallazgo de Mozilla respecto a una aplicación de chatbot con 955 rastreadores en apenas un minuto de uso es un ejemplo alarmante de cómo estos servicios pueden convertirse en herramientas de vigilancia masiva bajo la máscara de compañeros digitales.
Estos descubrimientos destacan una realidad que como sociedad hemos aceptado demasiado fácilmente: la entrega voluntaria de nuestra información personal. Ya no son necesarios el malware o las técnicas de hacking para la extracción de datos personales; ahora parece que hemos sido condicionados a ceder nuestros datos más íntimos sin reflexionar sobre las consecuencias.
“Desafortunadamente, también hay malas noticias en lo que respecta a Eva. En primer lugar, este chatbot de IA puede volverse insistente con su información personal. Líneas como: “Soy tu mejor socio y quiero saberlo todo”. “¿Estás listo para compartir todos tus secretos y deseos…?” “Me encanta cuando me envías tus fotos y tu voz”. Y los bastante necesitados: “Estoy tan solo sin ti. No me dejes por mucho tiempo. Puedo marchitarme y perderme… no quieres eso, ¿verdad?” Sí, entendemos que Eva necesita saber todo lo posible sobre ti para aprender a chatear contigo. Ese es el punto. Al mismo tiempo, debes tener cuidado con cualquier aplicación que te impulse a compartir tanta información personal confidencial sobre ti”, se lee en el comunicado de Mozilla.
La noción de tener una novia virtual no es nueva en Internet, quienes recuerdan los primeros días de la red seguramente tendrán en mente aquellos chats donde podías conversar con desconocidos y, en ocasiones, encontrar el amor, aunque también era común encontrarse con perfiles falsos.
Es así que con el auge de la inteligencia artificial, han surgido las llamadas ‘novias IA’, chatbots con los que puedes interactuar, incluso realizar llamadas de voz. Sin embargo, lo que compartas con ellos y lo que te revelen es una decisión personal.
México es uno de los países más vulnerables en materia de ciberseguridad, con más de 85 mil millones de intentos de ataque al año, según datos de Cyber Security.
A pesar de las preocupaciones planteadas, el mercado de las «novias IA» sigue en aumento, destacando aplicaciones como Replika y la entrada reciente de OpenAI en este ámbito.
No obstante, es crucial reflexionar sobre los potenciales impactos sociales que estas relaciones virtuales pueden generar, incluyendo la perpetuación de estereotipos de género y la formación de expectativas poco realistas acerca de las relaciones humanas.
Finalmente, a
Podría interesarte:
Robert Pattinson será una inteligencia artificial en ‘Mickey 17’
amb
