Мер Нью-Йорка звертається до містян із закликом терміново евакуюватися або повідомляє про те, що місто захопили терористи. Мер справжній, але слів, вкладених в його уста зловмисниками, він ніколи не вимовляв – це один їх сценаріїв нападу на найбільший американський мегаполіс з використанням новітніх технологій.
Про це розповів заступник голови нью-йоркської поліції Джон Міллер, виступаючи в ООН на заході, присвяченому питанням безпеки і технічного прогресу. Технології стрімко розвиваються і стають все більш доступними. У багатьох країнах, хоча і далеко не у всіх, їх успішно беруть на оснащення і правоохоронні органи. У тому ж Нью-Йорку, наприклад, як розповів Міллер, головна зброя сучасного поліцейського – це смартфон з додатком, що дозволяє за лічені секунди отримати вичерпну інформацію.
“Уявіть собі стрілянину на вулиці, скажімо, в Бронксі (район Нью-Йорка), – говорить він. – З таким пристроєм в руках поліцейський, стоячи на місці, може з’ясувати, скільки зброї було вилучено на цій вулиці за останній місяць, хто з містян в радіусі кількох сотень футів відбуває умовний термін, номери машин, припаркованих в цьому районі, і імена їх власників. І це не все: система знайде сторінки цих людей в соціальних мережах, їх фото та налаштує програму розпізнавання їхніх облич”.
Як запобігти вторгненню в приватне життя?
При цьому в Америці ніхто не відміняв закони, що обмежують вторгнення в приватне життя. Де ж пролягає золота середина? За словами Міллера, система, якою сьогодні користуються нью-йоркські поліцейські, до її впровадження була виставлена на сайті міської поліції. Кожен міг дізнатися про неї все, що його цікавить і навіть висловити свою думку.
“Крім того, ми постійно перевіряємо, хто і як користується базою даних, чи не намагається хтось за допомогою програми, наприклад, стежити за життям колишньої подружки”, – зазначив Міллер.
В ідеалі принцип захисту приватного життя закладається на етапі розробки системи. Співробітниця Google Каріна Чу розповіла про те, як в компанію звернулися групи із захисту прав людей з інвалідністю з проханням створити систему із зчитування руху губ. У Google, за її словами, є спеціальна комісія, яка розглядає етичні аспекти при виробництві будь-якого продукту. “А як бути, якщо хтось з допомогою цієї системи влаштує стеження за чоловіком або ще за кимось, або зловмисники скористаються відеоматеріалами, які знаходяться у відкритому доступі? […] Вивчивши всі потенційні ризики, ми вирішили, що модель повинна працювати тільки, якщо камера “бачить” говорить під кутом в нуль градусів, а також включили ряд інших обмежень, – повідомила Чу. Крім того, ця програма Google не доступна широкому загалу, її можуть використовувати тільки ті, для кого вона створювалася.
Злочинці також користуються новими технологіями
Організаторами заходу, присвяченого питанням безпеки і новітнім технологіям, виступили місії з Грузії і Нідерландів, а також Міжрегіональний науково-дослідний інститут ООН з питань злочинності та правосуддя. У доповіді, підготовленій Інститутом спільно з Інтерполом, йдеться про ризики, з якими пов’язане запровадження нових технологій, в тому числі штучного інтелекту. Адже з таким же успіхом технічними нововведеннями можуть скористатися і злочинці. І хто гарантує, що маючи в арсеналі такі можливості, правоохоронні органи не будуть ними зловживати?
Зловмисники, наприклад, користуються соціальними мережами для вербування нових членів в свої угруповання, вони освоїли платіжну систему, пов’язану з криптовалютою, і вільно спілкуються в даркнеті – прихованій мережі, яка існує паралельно звичайному інтернету. Одна з нових форм зловживання штучним інтелектом – створення фейкових новин – дезінформації. Як у випадку з відеозверненням мера, яке передбачувані злочинці використовували, щоб розсіяти паніку серед містян.
Цю ж програму можна використовувати, поширюючи завідомо неправдиву інформацію, щоб впливати, наприклад, на результат виборів в будь-якій країні. І, якщо вірити ФБР, саме це і сталося напередодні виборів американського президента.
Нові інструменти дозволяють спотворити будь-яке відео або звуковий файл, замінивши частково або повністю звук і зображення. Тому на такі свідчення більше не можна покладатися, наприклад, в ході судових розглядів.
Штучний інтелект може брати участь і в фізичних напади, наприклад, за допомогою безпілотників, оснащених зброєю і датчиками, які здатні розпізнати передбачувану жертву в обличчя.
“Уявляєте, яка це проблема для правоохоронних органів, – говорить заступник голови нью-йоркської поліції. – Це просто нічний кошмар для поліції, якій, наприклад, доводиться забезпечувати безпеку півтора мільйона чоловік, присутніх на Таймс-Сквері, щоб зустріти новий рік”.
З іншого боку, всі ті ж технології допомагають відобразити або запобігти нападу. Наприклад, приватна компанія PredPol допомагає поліції аналізувати кримінальну обстановку, щоб правильно розподіляти свої сили, направляючи патруль в найнебезпечніші місця.
“Нам потрібно знати дані про час, місце і характер злочинів на певній території, – розповідає представник компанії Брайан Макдональд. – Програма аналізує цю інформацію, визначає потенційні ризики і прогнозує, де може статися наступний злочин”.
Як усунути зростаючу нерівність
Представниця ОБСЄ Раса Остраукайте, привернула увагу присутніх до питань “подвійної”, як вона сказала, гендерної дискримінації. “Жінки недостатньо представлені в правоохоронних органах, – сказала вона. – В Європі тільки кожен п’ятий поліцейський жіночої статі, а на глобальному рівні ситуація і того гірше: жінки становлять лише 10 відсотків вартових правопорядку у всьому світі”. “При цьому, – додала вона, – в галузі, пов’язаній зі створенням штучного інтелекту, жінки становлять лише чверть співробітників”. Таким чином, за словами Остраукайте, ці програми і створюють, і використовують чоловіки, а ось застосовуються вони відносно всього населення, половину якого складають жінки. “Існує ризик дискримінації, закладений вже в алгоритм системи”, – вважає представниця ОБСЄ.
Як вирішують проблему в ООН
Цими та іншими питаннями, пов’язаними з новітніми технологіями, активно займаються в ООН. У 2018 році Генеральний секретар створив експертну Групу з міжнародного співробітництва в сфері цифрових технологій. Її очолює американський філантроп і дружина творця “Майкрософт” Мелінда Гейтс і засновник компанії “Алибаба», китайського гіганта в області електронної комерції, Джек Ма.
Інтернет, блокчейн, штучний інтелект – глава ООН поставив перед фахівцями завдання розглянути, як кожна з цих технологій і їх поєднання можуть служити людям, не порушуючи їх прав і не підриваючи основи демократії і соціальної справедливості. Свій підсумковий доповідь експерти представлять Генеральному секретарю ООН цього літа.
