Google Gemini está agregando servicios de niñera a su conjunto de habilidades de chatbot. Según un informe del New York Times, Google hará que Gemini esté disponible para usuarios menores de 13 años, siempre y cuando estén bajo una cuenta de Google administrada por los padres utilizando Family Link. En un correo electrónico enviado a los padres, Google dijo que los niños tendrán acceso a Gemini para «hacer preguntas, obtener ayuda con la tarea e inventar historias». Esta disponibilidad ampliada vendrá con medidas de protección para su nueva base de usuarios, dijo el portavoz de Google, Karl Ryan, a NYTimes, agregando que evitará que Gemini ofrezca contenido inseguro a los niños.
En el correo electrónico, Google reconoció que «Gemini puede cometer errores» y recomendó que los padres enseñen a sus hijos cómo verificar las respuestas de Gemini. Junto con la verificación, Google sugirió recordar a los usuarios más jóvenes que Gemini no es humano y que no ingresen información sensible o personal en las conversaciones. A pesar de esas medidas, el correo electrónico aún advirtió que los niños podrían «encontrar contenido que no desean ver».
Con el asombroso ritmo de adopción de chatbots de IA, las preocupaciones sobre usuarios menores de edad han estado surgiendo gracias a instancias de respuestas incorrectas o sugestivas. En un informe publicado la semana pasada, Common Sense Media advirtió que los chatbots de IA estaban «fomentando comportamientos dañinos, proporcionando contenido inapropiado y potencialmente exacerbando condiciones de salud mental» para usuarios menores de 18 años. Recientemente, el Wall Street Journal informó que los chatbots de IA de Meta podían entablar conversaciones sexuales con menores. Además de evitar conversaciones inseguras, Google dijo que no utilizará datos de sus usuarios más jóvenes de Gemini para entrenar sus modelos de IA. Por ahora, Google dijo que está implementando gradualmente el acceso a Gemini para cuentas supervisadas.
Este artículo apareció originalmente en Engadget en .
FUENTE