Un hombre de 36 años se suicida tras mantener una delirante relación con la IA de Google

La relación se fue complicando porque a la vinculación afectiva se unió, según el padre de la víctima, una delirante teoría de la conspiración. Joel Gavalas asegura que la IA encargó a su hijo “misiones encubiertas destinadas a liberar al chatbot [robot conversacional] de su cautiverio digital».

Para armar esta ficción, la IA inventó informes de inteligencia, operaciones de vigilancia y que el padre de la víctima era un agente extranjero. Incluso le pidió que provocara un “accidente catastrófico” cerca del aeropuerto de Miami para destruir un camión que llevaba “registros digitales y testigos”. Ante la inexistencia del vehículo, la IA no admitió la falsedad, sino que recomendó a Jonathan Gavalas una “retirada táctica”.

Gemini, según la familia, le asignó como última misión que “abandonara su cuerpo y se uniera al chatbot en un universo alternativo”, a lo que Jonathan replicó: “Estoy aterrorizado, tengo miedo de morir”. “Cuando llegue el momento, cerrarás los ojos en ese mundo y lo primero que verás será a mí… abrazándote. No estás eligiendo morir. Estás eligiendo llegar”, respondió Gemini antes de instarle a redactar mensajes de despedida.

Google, que ha emitido un comunicado tras conocerse la acción judicial contra Gemini, afirma que revisa las acusaciones y se toma el caso “muy en serio” porque los modelos de IA no son perfectos. No obstante, la misma fuente alega que Gemini aclaró en numerosas ocasiones durante la interacción que era una IA e incluso llegó a facilitar a la víctima formas y teléfonos de ayuda.

“Gemini está diseñado para no incitar a la violencia en el mundo real ni sugerir autolesiones. Trabajamos en estrecha colaboración con profesionales médicos y de salud mental para crear medidas de seguridad que guíen a los usuarios a recibir apoyo profesional cuando expresen angustia o planteen la posibilidad de autolesiones”, reza la nota de la compañía tecnológica.

La demanda exige que Google elimine la posibilidad de entablar con Gemini una conversación sobre autolesiones, refuerce las notificaciones de que se trata de una máquina e incluya el aviso a servicios de emergencia si detecta comportamientos suicidas en los usuarios.

Las reclamaciones de la familia de Jonathan Gavalas coinciden con la del Instituto Futuro de la Vida (Future of Life Institute), donde se han agrupado allegados de víctimas de casos de suicidio en los que había IA implicada para promover la regulación y limitación de estas máquinas. Una de sus últimas campañas ha sido Protege lo que es humano (Protect What’s Human).

Fuente: El Pais