El pasado miércoles, en un video,junto a un un comunicado, Facebook presentó su plan de acción, e l que incluirá un chat de apoyo a través de Messenger y un sistema mejorado de inteligencia artificial (IA) que alertará sobre señales que indiquen posibles intentos de suicidio.
Los algoritmos estarán acondicionados para buscar palabras clave y patrones de comportamiento entre los datos recolectados de los casi dos millones de usuarios activos de la red social. Estas claves se basan en comentarios que ya se han identificado como causa de preocupación. La herramienta también rastreará comentarios de amigos que podrían indicar que alguien está en problemas o necesita ayuda.
La red contará con la asesoría de organizaciones como 'Crisis Next Line', 'National Eating Disorder Association' y 'National Suicide Prevention Lifeline', las cuales ofrecerán un trabajo de consejería en tiempo real con los usuarios, a través de Messenger.
La decisión surge en respuesta al gran número de historias de suicidios adolescentes expuestas entre los usuarios de Facebook. En enero, una niña de 14 años del estado de Florida publicó su suicidio en vivo a través de Facebook Live. El mismo mes, la red social estuvo en medio de una polémica por su intento de eliminar copias de un video del suicidio de otra niña, de solo 12 años, que había sido publicado en otro medio y se había viralizado hacia esta red.
El comunicado que Facebook emitió esta semana no especifica cómo enfrentará este problema cuando de trate de los videos en vivo, aparte de los medios ya existentes para identificar y denunciar contenidos.
Tal vez las críticas a las nuevas medidas apunten a la invasión de la privacidad, pero tampoco hay claridad sobre qué habilidad tiene la IA para detectar comentarios que no hablan seriamente de suicidio, sino que tienen sentido figurado, o exhiben sarcasmo o humor negro.
Joe Franklin, profesor asistente en el laboratorio de Psicopatología y Tecnología de la Universidad de Florida, dijo al medio MIT Technology Review, que hay poca evidencia científica de que este tipo de herramientas sean efectivas en detectar el comportamiento suicida o los problemas de salud mental. "No creo que sea algo malo y pienso que deberíamos estudiarlo", dice el experto, "pero inmediatamente me surgen cuestionamientos. No daría por sentado que sea efectivo".
Sin embargo la motivación es valiosa. El suicidio es la segunda causa más importante de muerte entre las personas de 15 a 29 años en Estados Unidos. En otro país, Reino Unido, la principal causa de muerte entre los hombres de 20 a 49 años es el suicidio. Aunque la IA pueda no ser tan efectiva como se cree, pero la red social es una enorme fuente para monitorear y detectar a estos grupos demográficos.