Социальным сетям и приложениям для знакомств пора раз и навсегда поставить точку и пресечь мошенничество, обман и дезинформацию на своих платформах.

Вначале социальные сети и приложения для знакомств представляли собой небольшие уголки Интернета с небольшим количеством пользователей. Сегодня Facebook и Twitter настолько велики, что влияют на выборы, создают или прекращают кампании по вакцинации и перемещают рынки.

Приложения для знакомств, такие как Tinder и Bumble, не отстают: миллионы и миллионы людей обращаются к их услугам, чтобы встретить своего «единственного» или «единственную».

Но веселье и игры закончились. Вы выбрали прибыль, а не доверие и безопасность. Вы создали шлюз для кражи личных данных и онлайн-мошенничества.

Сегодня у всех нас есть друг, которого «заманили» на Bumble или Tinder; у всех нас есть члены семьи, которые стали жертвами мошенничества в сети Twitter и Facebook. Каждый день мы слышим о новых случаях, когда злоумышленники крадут личные данные — или создают новые поддельные — для совершения мошенничества, распространения дезинформации в политических и коммерческих целях или пропаганды разжигания ненависти.

В большинстве отраслей пользователи с поддельными аккаунтами на самом деле влияют только на бизнес. Но когда доверие к платформам знакомств и социальным сетям подрывается, это наносит вред пользователям и обществу в целом. И финансовое, психологическое, а иногда и физическое воздействие на человека реально.

Итак, кто несет ответственность за прекращение этого роста мошенничества или борьбу с ним? Понятно, что не сами платформы. Хотя некоторые заявляют, что принимают меры.

В четвертом квартале 2020 года Facebook удалил 1,3 миллиарда поддельных аккаунтов. Достаточно? Даже не близко. Дело в том, что социальные платформы и приложения для знакомств сегодня делают минимум для предотвращения мошенничества. Хотя базовый искусственный интеллект и модераторы-люди помогают, их превосходит огромное количество пользователей.

Facebook сообщает, что у него 35 000 человек, проверяющих контент; это легион, но на каждые 82 000 аккаунтов приходится примерно один модератор. И поскольку злоумышленники с каждым днем ​​становятся все более изощренными, используя дипфейки и развивающиеся методы преступности, такие как синтетическое мошенничество, их масштабы продолжают расти. Даже сообразительные пользователи сети становятся их жертвами.

Социальные платформы и платформы знакомств подвергаются критике за то, что они медленно борются с этой проблемой, но что можно сделать?

Кэтфишинг — серьезный бизнес

Нетрудно представить такой сценарий: вы встречаетесь с кем-то в сети и начинаете разговор. Человек говорит правильные вещи, задает правильные вопросы. Отношения начинают казаться «настоящими», и вы начинаете ощущать родство. Прежде, чем вы это осознали, чувства стали сильнее; все ваши барьеры спали, и вы стали невосприимчивыми к тревожным «звоночкам». Вы даже можете назвать это любовью.

Вы и ваша новая вторая половинка планируете наконец-то встретиться лично. Она утверждает, что у нее нет денег на поездку. Вы доверчиво и с любовью отправляете деньги, но только для того, чтобы этот человек вскоре стал призраком.

В то время как некоторые инциденты с кэтфишингом разрешаются сами по себе с минимальным ущербом, другие, как в примере выше, могут привести к финансовому вымогательству и преступной деятельности. По данным Федеральной торговой комиссии, в 2020 году заявленные убытки от мошенничества в сфере романтических отношений достигли рекордных 304 миллионов долларов.

Однако фактические убытки в этой области, о которой не сообщается, вероятно, экспоненциально выше, и тем более, если учесть «серые зоны» и онлайн-попрошайничество. Тем не менее, большинство приложений для знакомств не предоставляют возможности для подтверждения личности. Некоторые популярные приложения, такие как Tinder, делают проверку личности добровольной; другие, ну, ничего не предлагают. Кто хочет помешать новому подписчику?

Но добровольная проверка — это лишь малая часть. Эти компании должны делать больше, чтобы блокировать доступ к анонимным и поддельным личностям. Учитывая ущерб, который они наносят обществу и их клиентам, мы, как общество, должны требовать, чтобы они активизировались.

В социальных сетях проверка личности может быть палкой о двух концах

Романтические аферы характерны не только для приложений для знакомств; около трети фактически начинаются в социальных сетях. Но есть много других причин для подтверждения личности в социальных сетях. Потребители могут захотеть узнать, общаются ли они с настоящей Опрой Уинфри, Арианой Гранде или пародийным аккаунтом; Уинфри и Гранде, вероятно, также хотят, чтобы это различие было очевидным.

Если говорить более серьезно, на социальные сети растет давление, чтобы они контролировали онлайн-злоумышленников путем проверки личности. В Англии движение #TrackaTroll набрало обороты, в основном благодаря усилиям британской звезды реалити-шоу Кэти Прайс. Около 700000 человек подписали ее петицию, лоббирующую закон Харви, названный в честь ее сына-инвалида, который стал объектом серьезных нападений анонимных онлайн-злоумышленников.

Однако многие категорически возражают против требования проверки личности в социальных сетях. Обычно они обосновывают это тем, что требование проверки может поставить под угрозу жертв домашнего насилия и диссидентов в странах с репрессивными режимами, которые ищут и причиняют вред политическим оппонентам. Более того, проверка личности не остановит многих, кто распространяет дезинформацию о политике или вакцинах, потому что они хотят, чтобы их идентифицировали, чтобы создать свою аудиторию и личный бренд.

Сегодня Facebook и Twitter предлагают процесс «проверки», при котором подлинные учетные записи отмечаются синей галочкой. Но это далеко не надежно. Twitter недавно приостановил свою программу «проверки», потому что он неправильно проверил ряд поддельных учетных записей.

Facebook сделал больше. Социальная сеть давно требует условной проверки личности, например, если пользователь заблокирован для своей учетной записи. Они также основывают требования к идентификации на опубликованном контенте, в котором определенное поведение, слова и изображения вызывают блокировку публикации, ожидающую проверки и проверки со стороны человека.

Гонка вооружений идентичности

Когда злоумышленники создают поддельные удостоверения личности в приложениях для знакомств и социальных сетях, чтобы обманывать и причинять вред другим, это подрывает общественное доверие и, несомненно, влияет на доходы этих платформ. Платформы социальных сетей ежедневно пытаются согласовать свои бизнес-цели по максимальному использованию с защитой конфиденциальности пользователей — или сталкиваются с усилением регулирования и потерей доверия потребителей.

Жизненно важно защитить личные данные от воров и хакеров, которые могут использовать их не по назначению. Представьте себе фальшивую учетную запись Twitter или Facebook, утверждающую, что является вами, и распространяющую заявления ненависти. Не имея возможности опровергнуть свое участие, вы можете потерять работу или того хуже.

Какой выбор платформы сделают, чтобы защитить своих пользователей и свой собственный бренд? Их решения были сосредоточены на политике и защите доходов, а не на технологиях. Уравновешивание мер по укреплению доверия с проблемами конфиденциальности и их потребностью в доходах — это грандиозная стратегическая дилемма, которую они должны решить. Тем не менее, они должны создать безопасное пространство для своих пользователей.

Социальные сети и платформы знакомств должны брать на себя большую ответственность, когда речь идет о защите пользователей от мошенничества и злоумышленников в Интернете.

Перевод статьи «Социальные сети и приложения для знакомств имеют серьезную проблему с идентификацией»