La infancia en manos de algoritmos: el fracaso de la regulación digital

Por Ernesto Ángeles. SPR Informa. Agencia de Prensa Mexicana.

Hace unos días, la agencia de noticias Reuters reveló un informe interno de Meta, empresa matriz de Facebook, que muestra que sus chatbots de IA tienen permitido coquetear, sostener conversaciones provocadoras e incluso mostrar actitudes racistas en sus interacciones con niños y adolescentes.

Y, como es típico de las empresas tecnológicas, en especial de Facebook, la firma de Zuckerberg tuvo que admitir a medias su error y prometer que “está trabajando en ello”, autorregulándose, actuando como juez y jurado gracias al poder geopolítico de su país de origen, así como a la incompetencia y complicidad de gobiernos e instituciones que no regulan adecuadamente a dichas empresas o lo hacen mal.

Esto ocurre en todo el mundo con las regulaciones de protección infantil en entornos digitales, donde se levantan restricciones y salvaguardas para impedir que los niños accedan a ciertas plataformas, sitios web o contenidos. Sin embargo, estas medidas son arbitrarias, fáciles de eludir o trasladan la responsabilidad a los padres y consumidores. En este contexto, llama la atención que dichas regulaciones admitan la toxicidad y el impacto negativo de las plataformas de redes sociales, pero solo intenten elevar la edad mínima de acceso a semejante caos digital.

También resulta desconcertante que tales regulaciones apenas se estén introduciendo ahora, como si las plataformas de redes sociales no existieran desde hace más de 15 años, o como si no hubiera un registro histórico de numerosos estudios que advierten sobre los peligros de estos productos tecnológicos. Por lo tanto, no sería de extrañar que los riesgos y problemas que la IA, al igual que Facebook, plantea a los niños no se aborden políticamente hasta dentro de diez años, si tenemos suerte.

No solo estamos viviendo y sufriendo las consecuencias de años de regulación débil o inexistente de las empresas digitales, sino que ahora debemos prepararnos para riesgos aún mayores, muchos derivados de nuestra dependencia crónica de productos dañinos como las redes sociales. En el pasado, los problemas eran la pérdida de atención, la violación de datos personales, la manipulación digital, la desinformación y otros flagelos. Ahora también enfrentamos problemas como el debilitamiento de las habilidades de pensamiento crítico, la manipulación histórica y fáctica que permite la IA, y la posibilidad de influir y manipular directamente las emociones de las personas, en especial las de las nuevas generaciones, que entrarán a esta realidad con menos herramientas de resistencia que quienes crecimos sin la influencia omnipresente de la IA.

La gran paradoja de este panorama es que, mientras se discuten reformas cosméticas para crear la apariencia de proteger a la infancia, las mismas empresas que diseñan los algoritmos y construyen entornos digitales siguen acumulando datos y perfeccionando mecanismos de control social.

Meta, Google, OpenAI o Microsoft no solo venden tecnología; también venden una visión del mundo donde el mercado define lo permitido y lo prohibido, relegando el interés público a un segundo plano. Por eso cada crisis, cada filtración y cada queja pública termina siendo solo otro capítulo de la narrativa de que “se está haciendo algo”, cuando en realidad el problema simplemente se patea hacia adelante.

La situación se vuelve aún más compleja si se considera que la IA de Facebook es solo una entre muchas. Hay que preguntarse qué están haciendo otras empresas para que sus productos sean más seguros, si es que hacen algo, pues parece probable que en unos años la IA se extienda mucho como alguna vez lo hicieron las “cosas inteligentes”. La diferencia es que ahora la promoción de valores, productos, perspectivas, ideas y hechos será más constante, dañina, imperceptible, adaptable y automática. Debemos empezar a cuestionar qué futuro nos espera, y qué futuro queremos, sobre todo porque Google, con Gemini, y OpenAI, con ChatGPT, ya anunciaron que sus modelos promoverán productos en medio de las conversaciones.

Este panorama sombrío se agrava por la debilidad estructural de las propias instituciones que deberían regular el campo. En muchos países, las agencias encargadas de proteger a la infancia o la privacidad de los datos carecen del presupuesto, la autoridad, la independencia y la experiencia técnica para enfrentar a corporaciones que operan globalmente. La captura regulatoria es evidente: funcionarios pasan de regular estas empresas a trabajar dentro de ellas, legisladores repiten los argumentos de la industria y los gobiernos prefieren no tensar relaciones con naciones poderosas que exportan estos modelos tecnológicos como parte de su poder blando.

Lo más alarmante es que, mientras las empresas se enredan en la retórica de la “innovación responsable”, ya están sentando las bases de un futuro en el que la IA será la principal mediadora de nuestra vida diaria. No se trata solo de un bot que coquetea con un niño o normaliza actitudes racistas, sino de sistemas que podrán moldear opiniones políticas, preferencias de consumo, identidades culturales e incluso emociones en tiempo real. No enfrentamos simplemente fallas técnicas, sino un rediseño silencioso de la socialización humana.

Por todas estas razones, la discusión no puede limitarse a la edad mínima para acceder a las redes sociales. Debe centrarse en cómo queremos proteger la autonomía, la privacidad y las habilidades de pensamiento crítico de las nuevas generaciones en un ecosistema donde la IA se expande sin control. De lo contrario, en unos años podríamos encontrarnos con una población moldeada desde la infancia por algoritmos privados, incapaz de cuestionar las narrativas que se le imponen y sujeta a un poder digital que ya no responde a valores democráticos, sino a intereses comerciales y geopolíticos.

Relacionado: El Chat-GPT mexicano: ¿un paso hacia la soberanía tecnológica o solo más dependencia?