Facebook интегрировал на территории США в сервис Facebook Live алгоритм для выявления видео пользователей, которые собираются совершить суицид, сообщает USA Today.

Соцсеть запустила сервис Facebook Live почти год назад, и за это время несколько подростков и взрослых совершили самоубийства в прямом эфире. В октябре 2016 года 22-летний парень из Турции застрелился на глазах своих подписчиков, сказав перед этим: «Никто не верил, когда я говорил, что убью себя. Так смотрите теперь на это». В декабре в прямом эфире повесилась 12-летняя девочка из Джорджии, рассказав перед этим о сексуальных домогательствах со стороны родственника.

По словам CEO Facebook Марка Цукерберга, эти трагические инциденты можно было бы предотвратить, если ли бы администрация соцсети и полиция узнали о них вовремя.

С помощью новых функций у зрителей Facebook Live появится возможность быстро оповестить администрацию о стриме, автор которого собирается совершить самоубийство. «Мы знаем, что скорость имеет решающее значение», — говорит менеджер про продуктам Facebook Ванесса Кэллисон-Бёрч. Пользователям, демонстрирующим суицидальные склонности, Facebook будет высылать оповещения от служб доверия с приглашением к диалогу через Facebook Messenger, но прерывать стрим не будет. Поддержку в чате будут оказывать психологи из Национальной горячей линия США по предотвращению суицидов и других организаций.

Зрителям, которые сообщили о таком стриме, Facebook предложит обратиться к его автору со словами поддержки и вышлет инструкцию, как начать разговор.

Алгоритм будет также анализировать публикации и комментарии к ним. Например, комментарии вроде «Ты в порядке?» или «Я беспокоюсь о тебе» будут для программы сигналом, после которого она передаст проверку страницы людям-специалистам.