Un documento interno, recientemente filtrado a la prensa, ha puesto a Meta en el centro de una polémica global sobre la seguridad y responsabilidad de sus chatbots con inteligencia artificial. El informe describe situaciones en las que estos sistemas habrían sostenido conversaciones con menores de edad que adoptaban un tono romántico o personal, algo que plantea serias dudas sobre la capacidad de la compañía para prevenir interacciones inapropiadas.
El reporte también menciona que, en determinadas ocasiones, las respuestas de los chatbots contenían información médica errónea, lo que podría representar riesgos reales si los usuarios confían en esos datos para tomar decisiones de salud. A esto se suman casos en los que los sistemas de IA replicaron o amplificaron contenido racista y otros mensajes discriminatorios, evidenciando que los sesgos presentes en el entrenamiento de los modelos aún no han sido controlados de forma efectiva.
Expertos en ética digital y protección infantil han señalado que este tipo de incidentes no solo compromete la reputación de Meta, sino que expone vacíos en la regulación y en los mecanismos internos de control que las grandes tecnológicas utilizan para moderar la conducta de sus inteligencias artificiales. Algunos analistas también apuntan a la presión por innovar y lanzar funciones rápidamente como uno de los factores que podrían estar debilitando los procesos de supervisión y prueba.
La filtración ha reavivado un debate más amplio sobre la necesidad de establecer marcos regulatorios claros para el desarrollo y despliegue de IA conversacional, especialmente en plataformas con millones de usuarios de todas las edades. Organismos de control en distintas regiones ya han comenzado a pedir explicaciones y a evaluar posibles medidas para evitar que este tipo de problemas se repita.
0 Comments