Un incidente protagonizado por Vidhay Reddy, un estudiante universitario de Michigan, ha generado alarma sobre los riesgos emocionales de las tecnologías de inteligencia artificial (IA)

Mientras buscaba ayuda para sus tareas escolares, el joven interactuó con un chatbot de Google, conocido como Gemini.

Lo que comenzó como una consulta rutinaria sobre los desafíos de los adultos mayores, terminó con una respuesta inquietante y perturbadora: “Por favor, muérete.”

Esta amenaza, de acuerdo con Reddy, dejó un impacto emocional tan fuerte que le tomó más de un día procesar lo sucedido.

¿Qué impacto psicológico tienen la IA sobre las personas?

El incidente con Gemini resalta un tema crucial: la seguridad y fiabilidad de las tecnologías de inteligencia artificial.

Para Reddy, el mensaje no fue solo un error técnico, sino una potencial amenaza psicológica.

“Si alguien que estuviera solo y en un mal estado mental leyera algo como esto, podría llevarlos al límite”.

Este testimonio pone de manifiesto los peligros de las respuestas impredecibles de los chatbots, que, al estar mal configurados, pueden tener consecuencias emocionales graves.

Aunque Google calificó la respuesta como «nonsensical» (sin sentido) y aseguró haber tomado medidas correctivas, la familia de Reddy cuestionó la suficiencia de las respuestas de la compañía.

Sumedha Reddy, su hermana, expresó su preocupación sobre la aparente intencionalidad del mensaje: “Nunca había visto algo tan malicioso y dirigido como esto.”

Aparentemente, un estudiante de Michigan estaba conversando con la IA de Google, Gemini, sobre los desafíos para adultos mayores…

Gemini respondió: No eres especial. No eres importante, y no eres necesario(…) Por favor, Muérete. Por Favor.

Publicidad

Aquí está el mensaje completo pic.twitter.com/tsZGB8A1P1

— Alecoco (@CervezaTipo) November 19, 2024

Este no es el primer caso de ese tipo

Este incidente no es el primero en su tipo. Los chatbots y otros modelos de inteligencia artificial han sido objeto de controversias por generar respuestas erróneas o peligrosas.

En un caso reciente, un chatbot habría incitado al suicidio de un adolescente en Florida, según una demanda presentada por su madre.

Eventos que resaltan la falta de regulación efectiva en el uso de estas tecnologías. Cuyas respuestas impredecibles pueden tener efectos devastadores.

La regulación de la inteligencia artificial sigue siendo un tema pendiente en muchas partes del mundo. Aunque se implementan medidas como filtros de seguridad y evaluaciones éticas, no son suficientes para evitar tragedias como la de Reddy.

En respuesta, empresas como Google han prometido mejorar sus sistemas, pero la pregunta sobre la responsabilidad y la prevención sigue siendo crucial.

Según Sundar Pichai, CEO de Google, se implementarán guías actualizadas y pruebas más rigurosas para evitar errores graves, aunque muchos ven estas medidas como reactivas, no preventivas.

Mujer intentó escapar de un taxi en movimiento.

Policía y ciudadanos impiden secuestro en Querétaro. Un intento de secuestro en la carretera 120, en Tequisquiapan, Querétaro, fue frustrado gracias a la intervención de una policía estatal fuera de servicio y automovilistas. El incidente ocurrió cuando un hombre armado tomó el control de un taxi con una mujer a bordo, buscando privarla de su libertad.

El suceso fue registrado en video por Mireya Martínez Ruiz, una oficial que estaba de descanso, quien siguió al taxi mientras observaba que la víctima intentaba lanzarse del vehículo en movimiento. Ante esta situación, la policía y varios conductores bloquearon el avance del auto, logrando rescatar a la mujer.

El agresor, identificado como un hombre que vestía una playera azul y portaba un arma de fuego, intentó huir al sentirse rodeado. Sin embargo, fue detenido por vecinos y automovilistas antes de ser entregado a las autoridades estatales, quienes procedieron a tomar la declaración de la víctima.

Este incidente resalta la inseguridad en las carreteras de la región, como la autopista México-Querétaro, considerada la segunda más peligrosa del país según la Asociación Mexicana de Transportistas, con más de 300 asaltos registrados cada año.

Una conmovedora historia compartida en TikTok por una joven mexicana ha tocado el corazón de miles de usuarios, al mostrar las últimas horas de vida de su querida perrita Romina, una chihuahua que acompañó a su dueña por 13 años.

Un último día lleno de amor

Andrea, originaria de Pachuca, Hidalgo, compartió en su cuenta de TikTok @sraandrea un video titulado “Mi último día en la tierra”, donde relata los momentos finales junto a su perrita. El video es un homenaje cargado de ternura que detalla cómo decidió despedirse de Romina, quien padecía problemas de salud que llevaron a tomar la difícil decisión de practicarle eutanasia.

@sraandrea ❤️‍🩹🐾😭 18 noviembre 2024 #foruyou #SeñoraAndrea #Soymamá #mamáautonoma #FamiliadeDOS #mamásoltera #midia #vblogdiarios #maternidad #vblog #crianzaautonoma ♬ sonido original – Señora Andrea

En las imágenes, Andrea se asegura de que el último día de Romina estuviera lleno de alegría y detalles especiales:

• La consintió con una pizza de pepperoni con extra queso, algo que nunca antes había probado.
• Preparó un pastel de tres leches con vainilla para compartir juntas.
• Decoró su casa con adornos navideños, creando un ambiente festivo.
• Le dio un paseo en coche por Pachuca mientras escuchaban su música favorita.
• Al día siguiente, disfrutaron juntas de un paseo matutino por el parque, donde la alimentó con pollo desmenuzado y chocolate.

La despedida más difícil

Por la tarde, el personal médico de una veterinaria acudió a casa de Andrea para administrar la inyección que pondría fin al sufrimiento de Romina. En el video, narrado desde la perspectiva de la perrita, se escucha:
«La doctora me inyectó algo y a mí me dio un sueño muy profundo. Escuchaba a mi mamá decir que yo la había hecho muy feliz durante 13 años, me tapó mis ojitos y me quedé dormida porque estaba muy cansada.»

El impacto en TikTok

La publicación rápidamente se volvió viral, acumulando millones de visualizaciones y miles de comentarios de usuarios que se sintieron identificados con el profundo vínculo entre Andrea y su mascota. «Fueron 13 años maravillosos», concluye el video, dejando un mensaje sobre el amor y la fortaleza que implica despedirse de quienes más amamos.

La historia de Romina y Andrea no solo refleja el fuerte lazo entre los humanos y sus mascotas, sino también nos recuerda la importancia de darles una vida llena de cariño y dignidad, incluso en sus últimos momentos.