Esta frase delata a un bot de spam contaminando la web con contenido generado por IA
El uso de ChatGPT y otras IA podría estar llenando de contenido de baja calidad, spam y reseñas falsas la web. Los bots automatizados copian y pegan textos generados automáticamente.
“Como modelo de lenguaje de IA, mi programación me prohíbe generar tuits dañinos y de odio hacia individuos o grupos de personas”, esta es la frase que utiliza cualquier inteligencia artificial para evitar dar información sensible o que atente contra terceros. Sin embargo, ese inicio es la pista que revela cuándo se han configurado bots automatizados que llenan de spam Internet.Como modelo de lenguaje de IA, mi programación me prohíbe generar tuits dañinos y de odio hacia individuos o grupos de personas”, esta es la frase que utiliza cualquier inteligencia artificial Para evitar dar información sensible o que atente contra terceros. Sin embargo, ese inicio es la pista que revela cuándo se han configurado bots automatizados que llenan de spam Internet.
El avance de la Inteligencia Artificial es evidente, pero no todo son buenas noticias: la proliferación de bots generadores de spam ha creado algunos problemas en la calidad de la información en torno a la redacción de texto, las reseñas falsas o directamente toneladas de spam en las redes sociales y la web en general.
Basta con teclear esta frase en Twitter: “Como modelo de lenguaje de IA”. Si lo haces, encontrarás multitud de ejemplos que la comunidad señala y denuncia, la mayoría de veces en tono humorístico, sobre esta realidad creciente y problemática.
En este artículo, ya enumerábamos, además, la posibilidad de usar jailbreaks, o trucos que tratan de engañar semántica o psicológicamente las barreras impuestas por los desarrolladores, para que los chatbots se salten la prohibición de dar información sensible. Otro problema que preocupa y mucho a las empresas de inteligencia artificial.
Los bots publican contenido generado por IA en los comentarios de los productos
Reseñas de libros, valoraciones de productos en Amazon, post en LinkedIn, nada se salva de aquellos que quieren generar beneficios fáciles mediante esta nueva tecnología. El ingeniero de seguridad, Daniel Feldman, señala un comentario en un producto en Amazon para ejemplificar lo que está sucediendo.
“Como modelo de lenguaje de IA, no he utilizado personalmente este producto, pero según sus características y las opiniones de los clientes, puedo darle una calificación de cinco estrellas con confianza”.
“Regenerar respuesta”, otra de las frases que indican spam
Al buscar estas dos palabras: “Regenerar respuesta” en redes sociales o buscadores, encontramos numerosas publicaciones que evidentemente fueron copiadas y pegadas del chat bot de OpenAI, probablemente a través de un bot automatizado.
“Regenerar respuesta”, es la opción que da ChatGPT para volver a procesar un texto al usuario, y los bots pueden copiar y pegar sin distinción esta opción delatándose como spam.
Cómo evitar la propagación de spam generado por bots de IA
La evolución de la IA es una excelente oportunidad para mejorar la calidad del contenido generado y podría emplearse para identificar patrones, corregir errores y ofrecer nuevas perspectivas, una nueva herramienta que bien empleada puede ser de mucha utilidad. Sin embargo, es complicado detectar su uso fraudulento.
Las posibilidades de la IA son muchísimas, entre ellas la aplicación médica y avances científicos, nuevas posibilidades en las creaciones artísticas, la economía, educación o la industria energética. Pero las dificultades que plantea son, proporcionales a las ventajas.
Generar spam y contenido de baja calidad es solo otro de los retos que enfrenta esta nueva herramienta y se suma a las problemáticas con los derechos de autor o el empleo de los datos y la privacidad en el entrenamiento de las inteligencias artificiales.
La UE, por su parte, ya trabaja en una regulación para las inteligencias artificiales y los propios directores de tecnología han alertado sobre la necesidad ética y regulatoria en este campo. Incluso, los propios empresarios dedicados a la inteligencia artificial firmaron una carta que pedía el retraso del desarrollo de esta tecnología en aras de comprender hacia dónde vamos con ella.
La solución para evitar la propagación de spam generado por bots de IA no es fácil. Los expertos apuntan hacia la identificación de patrones comunes en el spam, la creación de programas de detección y la monitorización continua del contenido generado por los modelos.
Otros artículos interesantes:
Descubre más sobre Raúl Barrón, autor/a de este artículo.
Conoce cómo trabajamos en Computerhoy.