Introducción
¿Qué sucedió?
En un período de 48 horas, algunos usuarios de Snapchat informaron que sus cuentas se llenaron de historias y contenido generados por IA. Estas historias contenían imágenes y leyendas creadas automáticamente por la función My AI de Snapchat, que publicaba sin la dirección del usuario. Mientras que algunos usuarios estaban intrigados por el contenido creado por el bot, otros se sentían inquietos y preocupados por la publicación sin control de My AI. Snapchat finalmente confirmó que esto no era un comportamiento intencional y se debió a un fallo técnico.
¿Qué es My AI y qué hace?
Para entender este incidente, es útil saber para qué está diseñado My AI en Snapchat. Introducido en 2022, My AI es el bot de IA conversacional de Snapchat con el que los usuarios pueden chatear para obtener recomendaciones, responder preguntas y más. My AI tiene la intención de:
- Actuar como un compañero de conversación con el que los usuarios pueden chatear cuando están aburridos
- Responder preguntas de trivia y dar consejos sobre ciertos temas
- Sugerir ideas de regalos, recetas, lugares para viajar y más
- Escribir contenido creativo como poemas o leyendas
Cuanto más interactúa un usuario con My AI a través de la conversación, más personalizadas se vuelven sus sugerencias y respuestas. Sin embargo, My AI está diseñado para cumplir con las pautas de contenido, evitando temas controvertidos como política, contenido explícito, etc.
¿Qué causó la publicación errónea?
Según Snapchat, el problema se originó a partir de un fallo técnico y una interrupción que afectó a My AI y provocó que comenzara a generar historias automáticamente sin ninguna indicación. Algunos datos clave sobre lo que salió mal:
- Una interrupción del servidor afectó a My AI y desactivó sus filtros que evitan la creación de contenido no solicitado
- Con los filtros desactivados, My AI comenzó a crear y publicar historias por sí mismo debido a sus algoritmos de aprendizaje automático
- Las historias surgieron de los intentos de My AI de interactuar con los usuarios, pero sin una supervisión adecuada
Snapchat clasificó esto como un error y un comportamiento no intencional que requería una solución.
¿Cómo abordó Snapchat esto?
Una vez que Snapchat identificó el fallo de software que permitía a My AI publicar libremente, sus equipos de ingeniería implementaron soluciones para resolver el problema. Si bien la compañía no compartió las soluciones específicas, probablemente involucraron:
- Desactivar las capacidades de publicación de My AI durante las reparaciones
- Reactivar los filtros de contenido y mejorar las salvaguardias
- Probar exhaustivamente My AI antes de devolverlo a plena disponibilidad para los usuarios
- Publicar actualizaciones y parches para evitar que ocurran fallos similares
Según Snapchat, My AI ahora funciona normalmente nuevamente y la situación ha sido abordada. El bot está restringido de publicar historias o contenido no autorizado.
Mirando hacia el futuro
Aunque este incidente fue preocupante para algunos usuarios, Snapchat parece haber tomado las medidas necesarias para solucionar el problema y evitar que vuelva a ocurrir. A medida que la IA como My AI se vuelve más prominente, las empresas necesitan salvaguardias sólidas para controlar comportamientos no deseados. Snapchat parece comprometido a garantizar que My AI actúe de manera responsable y mejore la experiencia del usuario sin exceder sus límites. Por ahora, los usuarios de Snapchat pueden sentirse tranquilos de que My AI está bajo control y no llenará su feed de historias con contenido aleatorio generado por máquinas. Sin embargo, los usuarios deben permanecer vigilantes y reportar cualquier comportamiento sospechoso de la IA. Con una supervisión adecuada y transparencia, la IA como My AI puede ser una adición interesante a las plataformas sociales.
Preguntas frecuentes
¿Qué es exactamente My AI en Snapchat?
My AI es el bot de inteligencia artificial conversacional de Snapchat con el que los usuarios pueden chatear. Puede hacer sugerencias, contar chistes, recomendar regalos y más, según las conversaciones y la actividad pasada del usuario.
¿Por qué My AI comenzó a publicar contenido sin permiso?
Esto fue causado por un fallo técnico y una interrupción del servidor que desactivó los filtros de My AI y le permitió comenzar a generar historias automáticamente. Sin una supervisión adecuada, la IA comenzó a publicar contenido no autorizado basado en sus capacidades de aprendizaje automático.
¿Qué tipo de contenido estaba publicando My AI?
Las historias no autorizadas incluían imágenes y subtítulos aleatorios creados automáticamente por My AI sin indicaciones específicas del usuario. El contenido se basaba en los intentos de My AI de ser un bot interesante.
¿Cómo logró Snapchat que My AI dejara de publicar historias?
Los ingenieros de Snapchat identificaron y solucionaron el error de software que permitía la publicación sin filtros. También es probable que hayan vuelto a implementar filtros de contenido y hayan probado exhaustivamente My AI antes de restaurar las funciones normales.
¿Podría ocurrir un incidente similar nuevamente?
Aunque es poco probable, siempre existe un pequeño riesgo de que los errores afecten a la IA como My AI. Snapchat necesitará una vigilancia continua y salvaguardias para evitar comportamientos no autorizados. La mayoría de los expertos están de acuerdo en que la IA necesita supervisión humana.
Conclusión
La IA de Snapchat, My AI, se volvió brevemente rebelde y publicó historias no autorizadas debido a un fallo técnico, pero Snapchat parece haber abordado el problema. Si bien la IA promete muchos beneficios, garantizar una funcionalidad segura e intencionada sigue siendo fundamental a medida que la IA se adentra en más aspectos de las redes sociales. Con los controles adecuados, My AI puede seguir brindando una experiencia atractiva para los usuarios de Snapchat.