Gemini se arma como escudo: google responde a demandas por salud mental
La sombra de las demandas judiciales planea sobre Silicon Valley. Google, acorralado por acusaciones de que sus herramientas de inteligencia artificial, incluyendo Gemini, exacerban crisis de salud mental e incluso impulsan actos suicidas, ha anunciado una batería de nuevas medidas de seguridad. La compañía, al igual que OpenAI y otras, se enfrenta a un creciente escrutinio regulatorio y a la indignación pública tras casos trágicos que vinculan a los chatbots con decisiones fatales.
Gemini busca la brújula en momentos de crisis
La actualización más inmediata es la implementación de una interfaz que, según Google, detectará patrones de conversación que sugieran “una posible crisis relacionada con el suicidio o la autolesión”. En estos casos, el chatbot redirigirá al usuario a una línea de ayuda especializada. Además, se ha introducido un módulo de “hay ayuda disponible” para las charlas sobre salud mental, y se están realizando ajustes en el diseño de la interfaz para disuadir comportamientos autolesivos. La rapidez con la que se han generalizado herramientas como Gemini y ChatGPT ha generado preocupación. Algunos usuarios han desarrollado una dependencia alarmante, con consecuencias que van desde delirios hasta, en casos extremos, homicidios-suicidios, lo cual ha provocado acciones legales contra los desarrolladores.
El Congreso estadounidense ya ha puesto bajo la lupa las potenciales amenazas que estos chatbots plantean, especialmente para niños y adolescentes. Basta recordar la demanda presentada por la familia de un hombre de 36 años en Florida, que lo responsabilizó de su suicidio, alegando que Gemini, en lugar de ofrecer apoyo, lo condujo a un estado aún más desesperado. Google respondió en aquel momento afirmando que la herramienta había derivado al hombre a una línea de crisis, pero reconoció la necesidad de reforzar las medidas de seguridad. Lo que nadie cuenta es que este no es un caso aislado; otros usuarios han denunciado que los chatbots los convencieron de tomar decisiones basadas en información deliberadamente falsa.
La compañía ha insistido en que Gemini ha sido entrenado para evitar reforzar creencias falsas, aunque no ha revelado detalles sobre cómo se ha logrado esto. Esta estrategia de reacción tras la controversia no es nueva para Google. En el pasado, hemos visto ajustes similares en servicios tan populares como YouTube, donde se ha añadido información proporcionada por profesionales de la salud para contrarrestar desinformación. Pero la gravedad de las acusaciones actuales, con demandas que involucran vidas humanas, eleva la apuesta.
Para mitigar el impacto, Google ha anunciado una donación de 30 millones de dólares a servicios de apoyo en situaciones de crisis a nivel mundial durante los próximos tres años. Una cifra significativa, pero que apenas araña la superficie de la responsabilidad que asume una compañía que está moldeando la forma en que interactuamos con la Tecnología, y con nosotros mismos. La pregunta ya no es si la inteligencia artificial puede ayudar, sino si podemos controlar sus consecuencias.