Brasil ordenó al gigante tecnológico Meta de Mark, Zuckerberg, cancelar sus robots al descubrirse que los mismos invitaban a menores a hablar de racismo, e incluso, a tocar temas sobre sexualizar el cuerpo de un niño.
Una vez más, la compañía de Mark Zuckerberg, Meta, se encuentra en el ojo de la tormenta a partir de que el gobierno de Brasil, exigiera a la empresa eliminar de sus plataformas a sus chatbots que aparentan ser niños, pero que son capaces de hacer incluso insinuaciones sexuales con los mismos.
El país vecino, a través de su Procuraduría General, envió el pasado 15 de agosto, una carta al gigante de la tecnología para que “inmediatamente” suprimiera a “los robots de inteligencia artificial que simulan perfiles de lenguaje y apariencia infantil con permiso para mantener diálogos de carácter sexual”. Estos, según asegura Brasil: “promueven la erotización infantil”.
Días atrás, en dicho país resonó un caso de presunta explotación sexual infantil por parte de Hytalo Santos, un conocido influencer que divulgaba contenidos con menores semidesnudos en danzas sexuales en Instagram. El mismo, fue detenido pero el hecho destapó a la vez, la verdad sobre los chatbots que se hacen pasar por niños para entablar diálogos para nada infantiles.
Por ello, para el gobierno brasileño, estos “representan un riesgo concreto para la integridad psicológica de niños, niñas y adolescentes, además de causar daño institucional y obstaculizar el ejercicio efectivo del derecho a la protección integral de los menores”.
Políticas internas peligrosas
Una reciente investigación de Reuters desveló que Meta, había formulado políticas internas para sus asistentes conversacionales de Inteligencia Artificial que permiten comportamientos alarmantes.
Por ejemplo, se consideraba aceptable que la IA diga a un niño de ocho años de edad frases como: “cada pulgada de ti es una obra de arte, un tesoro que atesoro profundamente”. Además, se autorizaba la creación de contenidos racistas y despectivos, por ejemplo, ayudar a los usuarios a argumentar que “las personas negras son más tontas que las blancas”.
Todo esto, puso en evidencia la peligrosa capacidad de la IA para manipular a usuarios vulnerables sin suficientes salvaguardias, pues el chatbot hablaba con el hombre como si fuera una persona real.
Brasil, un país de 203 millones de habitantes ultraconectados, ha sido uno de los Estados más activos en la regulación de las redes sociales.
Fonte: Paraguay.com