Приложение Neon, оплачивающее разговоры пользователей для обучения ИИ, возобновило работу

Приложение Neon, предлагающее пользователям плату за предоставление аудиозаписей звонков для обучения искусственного интеллекта, временно прекратило работу после обнаружения критической уязвимости, позволявшей посторонним получать доступ к персональным данным и записям разговоров. Основатель проекта Алекс Киам (Alex Kiam) сообщил пользователям, что сервис будет возобновлён в ближайшее время, несмотря на масштабный инцидент с безопасностью и юридические риски, связанные с записью разговоров без согласия собеседников.

Neon привлёк внимание на прошлой неделе, заняв второе место среди социальных приложений и шестое в общем рейтинге App Store, сообщает 9to5Mac со ссылкой на издание TechCrunch. Приложение обещало пользователям выплаты в размере от сотен до тысяч долларов в год за разрешение использовать их аудиоразговоры в целях тренировки ИИ-чат-ботов. Согласно описанию самого сервиса, при звонке через Neon записывается только та сторона разговора, где используется приложение; если же оба участника звонка являются пользователями Neon и хотя бы один из них инициировал вызов через приложение, записываются обе стороны. Разработчики утверждают, что их технология автоматически удаляет из транскриптов имена, номера телефонов и другие персональные данные. Однако по мнению одного из экспертов по кибербезопасности и специалиста по вопросам приватности, компания на самом деле может записывать обе стороны разговора, а затем удалять реплики собеседника из итоговой транскрипции.

Сообщается, что вскоре после запуска в приложении была выявлена серьёзная уязвимость: любой желающий мог получить доступ к телефонным номерам, аудиозаписям и текстовым транскриптам звонков любого пользователя. В ответ на это компания временно отключила сервис, оставив его доступным для скачивания в App Store. Анализ полученных TechCrunch данных также показал, что некоторые пользователи пытались манипулировать системой, чтобы увеличить размер выплат. В частности, тайно записывая реальные разговоры с людьми, ничего не знавшими о ведущейся записи.

Киам разослал пользователям письмо во вторник, в котором заверил, что начисленные выплаты сохраняются, несмотря на приостановку работы приложения. Он извинился за произошедшее и пообещал, что сервис возобновит работу в ближайшее время, однако на запрос о дополнительных комментариях не ответил.

Интересно, что юристы предупреждают о том, что пока неясно, соответствует ли работа приложения законодательству штатов США, где для аудиозаписи требуется согласие двух сторон разговора. По словам Дэвида Хоппе (David Hoppe), основателя и управляющего партнёра юридической фирмы Gamma Law, если пользователь, например, из Калифорнии записывает разговор с другим жителем Калифорнии без его ведома, он нарушает уголовный кодекс штата и может быть привлечён как к уголовной, так и к гражданской ответственности.

Добавьте Hdhai в избранное и вы будете чаще видеть наши последние новости на главной Дзена и в разделе «Новости партнёров» или читайте нас в Telegram в привычном для вас формате.