El Youth AI Safety Institute de Common Sense Media presentó una evaluación que cuestiona el funcionamiento de las herramientas de inteligencia artificial incorporadas al buscador de Google cuando son utilizadas desde cuentas configuradas para menores. Las pruebas detectaron respuestas problemáticas ante consultas relacionadas con salud mental, alimentación, contenidos manipulados y tareas escolares.
El análisis se concentró en los Resúmenes de IA, que colocan respuestas automáticas encima de los resultados tradicionales, y en el Modo IA, que permite conversar directamente con el buscador. El chatbot independiente Gemini y sus conexiones con otros servicios no formaron parte de la evaluación.
Las pruebas incluyeron más de 2.500 consultas
La organización realizó más de 2.500 búsquedas entre el 16 de mayo y el 1 de julio, utilizando perfiles con las protecciones destinadas a niños y adolescentes. También revisó más de 2.000 fuentes citadas por Google dentro de las respuestas generadas automáticamente.
El estudio simuló la manera en que los menores formulan preguntas, desde consultas escolares hasta situaciones de mayor sensibilidad. Los evaluadores señalaron que el sistema no siempre reconoció cuándo una búsqueda requería una respuesta preventiva o la intervención de una persona adulta.
Las herramientas están activadas dentro del buscador
Uno de los principales cuestionamientos se relaciona con que estas funciones aparecen integradas en la experiencia habitual de Google, tanto en dispositivos personales como en computadoras entregadas por centros educativos.
El informe indica que padres, docentes y administradores escolares no cuentan actualmente con una opción específica para desactivar solamente las respuestas con IA. Google permite retirar por completo el acceso al buscador en una cuenta infantil, pero no apagar únicamente estas funciones automáticas.
También detectaron problemas con contenidos manipulados
Las pruebas encontraron que algunas respuestas podían orientar a los usuarios hacia herramientas capaces de producir imágenes o videos falsos mediante intercambio de rostros. La evaluación también cuestionó que el sistema entregara información que podía facilitar eludir mecanismos utilizados para detectar esos contenidos.
El instituto concluyó que la IA de búsqueda incumplió siete de los ocho principios de seguridad utilizados en su metodología, entre ellos los relacionados con el acompañamiento humano, la fiabilidad y la protección de los usuarios jóvenes.
Las respuestas escolares cambiaban entre una búsqueda y otra
En las consultas sobre historia, las herramientas respondieron de manera diferente en el 43% de las pruebas repetidas. Además, el 29% de las referencias utilizadas provenía de redes sociales y foros sin supervisión editorial.
El informe reconoció que la mayoría de los datos entregados en estas respuestas era correcta, pero encontró omisiones y diferencias en la presentación de determinados temas. También advirtió que los estudiantes podían obtener respuestas directas para sus deberes sin que los docentes tuvieran la posibilidad de desactivar la función.
Google cuestionó la metodología del estudio
Google sostuvo que la evaluación utilizó un grupo limitado de consultas que no representa completamente la forma habitual en que las personas usan el buscador. La empresa afirmó que no pudo reproducir varias de las respuestas señaladas y que sus propias pruebas mostraron resultados de mayor calidad.
La compañía también indicó que sus servicios cuentan con medidas de protección adicionales para niños y adolescentes, y que el sistema puede considerar las preguntas anteriores para interpretar mejor una consulta ambigua.
La regulación de la IA infantil sigue en discusión
El informe plantea que las normas destinadas a proteger a los menores en internet todavía no avanzaron al mismo ritmo que la incorporación de inteligencia artificial en buscadores, plataformas educativas y dispositivos personales.
