La inteligencia artificial puede tener muchos usos. Pero compañías como Facebook ha querido ir un paso más allá y usará esta herramienta para evitar suicidios.
Y es que, la compañía no ha dudado y va a poner en marcha una nueva herramienta de inteligencia artificial para ayudar a los usuarios que puedan estar contemplando el suicido mientras usan la plataforma con el fin de evitar que den ese paso.
Actualmente, Facebook ya permite denunciar posts o contenido por contener tendencias suicidas, y han estado usando esos reportes para entrenar un algoritmo.
La idea es que ese algoritmo sea capaz de detectar publicaciones similares a las ya reportadas por los usuarios.
Facebook buscará reconocer patrones en las publicaciones y en los vídeos en directo de los usuarios que sugieran que una persona está considerando la opción de suicidio
Si el algoritmo detecta un post similar, la opción de denunciar por tendencias suicidas será destacada en la pantalla. Esto no sólo incluye posts con texto, también estaría integrado en funciones como Facebook Live.
Ahora, concretamente, Facebook buscará reconocer patrones en las publicaciones y en los vídeos en directo de los usuarios que sugieran que una persona está considerando la opción de quitarse la vida.
Además, según ha explicado Guy Rosen, vicepresidente de Gestión Productiva de Facebook, también mejorarán los mecanismos de identificación de quienes serían los primeros en responder ante un caso así.
MAYOR NÚMERO DE INVESTIGADORES
Asimismo, ampliarán su equipo de investigadores con el fin de informar de suicidios y autolesiones. Las técnicas, que ya están siendo probadas en usuarios, incluyen un nuevo algoritmo para detectar situaciones que, hasta ahora, pasaban desapercibidas.
Facebook, que lleva más de diez años trabajando en la prevención del suicidio, ha asegurado que pretende que la herramienta esté disponible no solo en territorio estadounidense, sino también en la mayoría de países del mundo, salvo la Unión Europea.
"Podemos conectar a una persona angustiada con alguien que pueda apoyarla", ha afirmado Rosen, al tiempo que ha explicado que en las labores de prevención se analiza la aparición de comentarios como "¿Estás bien?" o una gran cantidad de respuesta de los usuarios ante la emisión de un vídeo.
Por ahora, la herramienta estará disponible no solo en territorio estadounidense, sino también en la mayoría de países del mundo, salvo la Unión Europea
Con el mismo fin, la compañía ya contrató en marzo a 3.000 personas para revisar el contenido que pudiera estar relacionado con el crimen o el suicidio.
La empresa intenta atajar casos como el ocurrido el pasado abril, cuando un tailandés retransmitió en directo a través de la red social cómo mataba a su hija de once meses y posteriormente se suicidaba, un vídeo que después fue eliminado por la plataforma.
Pero Facebook ya lleva tiempo intentando detectar y evitar los casos de suicido. Sin ir más lejos, el pasado año, la red social ya lanzó un nuevo servicio de prevención del suicidio para los usuarios.
La herramienta de ayuda se puso en marcha en Estados Unidos en colaboración con organizaciones dedicadas a la salud mental y basadas en la experiencia de personas que han sufrido esos pensamientos.
TWITTER E INSTAGRAM
Por su parte, pese a que estas herramientas aún no han llegado a España, aquí Facebook también cuenta con la ayuda de El teléfono de la Esperanza, línea telefónica que ofrece soporte a las personas que se encuentran en riesgo de cometer suicidio.
En Twitter también saltan advertencias automáticas cuando se buscan determinadas etiquetas relacionadas con el suicidio
Además de estos sistemas, la red social proporciona una guía de apoyo que muestra recursos para ayudar a personas, así como identificar signos de angustia emocional o suicidio.
Pero, Facebook no es la única red social que lanza alertas… A raíz de la creación de grupos que instaban a los usuarios, generalmente adolescentes, a suicidarse tras una serie de retos, en Twitter ya saltaban advertencias automáticas cuando se buscan determinadas etiquetas relacionadas con esos juegos.
También en Instagram se han implantado filtros similares.