Великий брат: як в США таємно стежать за потенційними злочинцями

У 2013 році Новий Орлеан посідав шосте місце за рівнем злочинності в США. Тоді окружний прокурор міста звинуватив у вимаганні близько десяти чоловік, імовірно - членів дилерських банд «3NG» і «the 110ers». Їм ставили в провину 25 вбивств, ряд замахів на життя та серію розбійних нападів, пише Грань.

Фото: Depositphotos

Після цього вироку Управління по контролю за обігом алкогольних напоїв, тютюнових виробів, вогнепальної зброї і вибухових речовин спільно з ФБР і місцевими агентствами провели розслідування, яке вилилося в нову хвилю затримань. За словами Рона Серпаса (на той момент - начальника міської поліції), особистості членів банд на кшталт «3NG» і «the 39ers»Були встановлені зокрема завдяки розробкам стартапа Palantir, Що базується в Кремнієвій долині. Компанія надала поліції Нового Орлеана програмне забезпечення для відстеження зв'язків городян з уже встановленими членами банд. Поліцейські змогли аналізувати їх кримінальне минуле і активність в соціальних мережах, а також прогнозувати ймовірність скоєння злочинів ними або щодо них.

Реалізація проекту почалася в 2012 році у формі співпраці між поліцією Нового Орлеана і Palantir Technologies - компанією з аналізу даних, яка була заснована на гроші венчурного фонду ФБР. Як випливає з опинилися в розпорядженні Грань документів та інтерв'ю, новоорлеанський проект був запропонований поліцією в рамках програми по попередженню злочинності.

Договір про партнерство продовжувався тричі; дата завершення останнього - 21 листопад 2018 року. Адміністрація Нового Орлеана і представники Palantir так і не відповіли на питання щодо поточного статусу програми.

«Ніхто в Новому Орлеані поняття про це не має»

На ділі жоден з ключових членів міської ради з тих, з ким вдалося зв'язатися Грань, Не знав про існування партнерства міської влади і Palantir - і вже тим більше вони не знали, що Palantir використовувала Новий Орлеан як полігон для демонстрації своїх можливостей, щоб укласти багатомільйонний контракт з іншим силовим відомством.

Навіть Джеймс Карвілла - поліцейський чиновник, відповідальний за укладення угоди з Palantir - заявив, що відомості про програму не повинні були стати надбанням громадськості.

«Наскільки мені відомо, ніхто в Новому Орлеані поняття про це не має», - заявив Карвілла.

Через більш ніж десять років після початку партнерства між компанією і владою Нового Орлеана Palantir запатентувала щонайменше одну систему прогнозування злочинної активності і почала поставляти розвідувальним службам інших держав схоже програмне забезпечення для визначення схильності громадян до здійснення терактів.

Навіть в професійному поліцейському співтоваристві ведеться дискусія щодо потенційних обмежень громадянських свобод при використанні системи від Palantir. Немає єдиної думки і щодо прийнятності подібних проектів для американської системи кримінального правосуддя.

«Цю систему не можна назвати підходящої для місцевих і федеральних правоохоронних органів. Вони створюють список підозрюваних, але ж ми боремося ні з формуваннями Аль-Каїди в Сирії », - заявив колишній чиновник органів правопорядку, який безпосередньо контактував з Palantir і був присутній на презентації системи.

Він погодився поговорити з виданням на умовах анонімності, щоб вільно поділитися своїми побоюваннями щодо машинного аналізу даних і попереджувальної діяльності правоохоронних органів.

«Palantir - яскравий приклад того, як можна витратити шалені гроші на систему, якою можна знайти застосування на практиці, але яка не підходить місцевим і федеральним органам правопорядку », - пояснив колишній чиновник.

Palantir Technologies в 2004 році заснували Олександр Короп і Пітер Тіль (останній володіє найбільшою часткою акцій стартапу). За короткий термін компанія стала однією з найдорожчих в Кремнієвій долині. стрімке зростання Palantir пов'язаний з укладенням ряду прибуткових контрактів з Пентагоном, а також національними та зарубіжними розвідувальними службами. В останні кілька років Palantir зі змінним успіхом робила спроби перевести свою діяльність по синтезу та аналізу даних в приватний сектор.

Palantir не вперше займатися прогнозами. Починаючи як мінімум з 2009 року компанія допомагала Пентагону визначати місце розташування саморобних вибухових пристроїв в Афганістані і Іраку в рамках програми оцінки ризиків. Оскільки проект реалізовувався в період проведення військових дій, компанії можна було не турбуватися про проблеми дотримання громадянських свобод, які неминуче виникають при використанні технологій профілактики злочинів. За відомостями деяких джерел, комерційний підрозділ Palantir, Metropolis, також використовує технології прогнозування для стимулювання споживчих ринків і управління інвестиціями. Однак до 2012 року ми не виявили доступних відомостей щодо участі Palantir в проектах профілактики злочинів.

Інтерес до запобігання злочинів і інвестиції в цю сферу стали рости після 2009 року, коли Національний інститут юстиції почав надавати гранти на здійснення проектів з прогнозування правопорушень. Завдяки цьому фінансуванню були створені деякі з найбільш успішних - і найбільш спірних - програм запобігання злочинів в Чикаго і Лос-Анджелесі. Використовувані в них алгоритми часто запатентовані розробниками, проте працюють за загальним принципом: зібрати максимальну кількість доступних даних (місце розташування, відомості про судимості, погодні умови, активність в соціальних мережах) і на їх основі побудувати припущення щодо того, які люди або об'єкти можуть виявитися замішані в злочині. У наступні кілька років багато стартапи намагалися монетизувати технології боротьби зі злочинністю: зокрема, варто згадати ПредПол, Каліфорнійський проект, якому не вдалося зберегти клієнтів, навіть не дивлячись на активну рекламну кампанію на початку цього десятиліття.

Аж до 2012 року немає ніяких відомостей щодо участі Palantir в проектах попередження злочинів.

Поки все більше департаментів і компаній залучалися до діяльність щодо запобігання злочинів, в рамках спонсорується державою дослідження були висловлені сумніви щодо ефективності методики. Незалежні вчені встановили, що програми прогнозування злочинів можуть вкрай негативно вплинути на життя расових меншин. В ході опублікованого в 2016 році дослідження було реконструйовано алгоритм Palantir. В результаті моделювання фахівці прийшли до висновку, що технологія відтворювала «системну упередженість» щодо дискримінованих поліцією расових громад, а також зробили висновок, що інформація про скоєні злочини не завжди гарантує точність прогнозу. Один з дослідників, аспірант університету Мічігану Вільям Айзек, раніше ніколи не чув про спільний проект новоорлеанских влади і Palantir, Але відразу впізнав модель, що лежить в основі програми.

«Я сумніваюся, що у інформації, яку вони використовують, така вже значна сила прогнозування. Поки вона не привела до запобігання особливо жорстоких злочинів », - заявив Айзек.

Згідно опинилися в розпорядженні Грань документам, перші контакти Palantir і адміністрації Нового Орлеана відбулися в 2012 завдяки посередництву Джеймса Карвілла, відомого посередника в цій області. При цьому Карвілла - центральна фігура Демократичної партії і автор успішної президентської кампанії Білла Клінтона на виборах 1992 року. він консультує Palantir з 2011 року.

Фото: Depositphotos

«Я - єдина рушійна сила цього проекту»

В одному з інтерв'ю Карвілла повідомив Грань, Що саме його втручання послужило стимулом до співпраці між Palantir і владою Нового Орлеана.

«Я - єдина рушійна сила цього проекту. Це цілком і повністю моя ідея, - заявив Карвілла, додавши, що він і генеральний директор Palantir Алекс Карп прилетіли до Нового Орлеана, щоб зустрітися з мером Лендрю. — Для мене це питання моралі. Молодь гинула у перестрілках, а громадськість не реагувала належним чином».

Документи, які регламентують відносини між Palantir і адміністрацією Нового Орлеана, характеризують діяльність компанії як «безоплатну» і філантропічної. У 2015 році Palantir внесла співпрацю з Новоорлеанський владою до своєї щорічної звіт по суспільно-корисної діяльності під виглядом колективного «аналізу соціальних мереж» для органів правопорядку і членів адміністрації міста.

Інтерв'ю чотирирічної давності, яке Карвілла дав міський радіостанції «Bay Area », Проливає світло на формування партнерства між Palantir і владою. У січні 2014 року на ток-шоу «Форум» Карвілла і його дружина Мері Металін з похвалою відгукувалися про роботу Palantir в Новому Орлеані і говорили про це як про одну з причин вже дворічного спаду злочинності в місті.

"Генеральний директор Palantir Алекс Короп сказав, що вони хотіли зайнятися благодійністю, і що мені відразу спало на думку? Я сказав, що у нас, в Новому Орлеані, жахливо високий рівень злочинності », - розповів Карвілла ведучому шоу Майклу червоний, не згадавши про свою оплачуваної посади в компанії.

«Так що він приїхав і зустрівся з нашим мером ... Обидва вважають аморальною ситуацію, коли молодь вбиває своїх ровесників, а суспільство не хоче нічого робити. І ми змогли - не витративши ні цента з міського бюджету - почати збір інформації, почали прогнозувати правопорушення і втручатися в ситуації, що загрожували перерости в злочину. За період роботи проекту рівень злочинності знизився майже на третину ».

Металін, також політичний консультант, в інтерв'ю червоний дала зрозуміти, що послуги з прогнозування, які Palantir надавала новоорлеанской поліції, були прототипом, але при цьому могли в теорії привести до арештів невинних громадян.

«Якщо ви не доводитеся кузеном якомусь потрапив за ґрати наркоторговця, з вами все буде в порядку»

Ронал Серпас, глава новоорлеанской поліції з 2010 по 2014 рік, розповів нам про обставини першого контакту з представниками Palantir. Це сталося в рамках зустрічі, ініційованої адміністрацією мера Лендрі.

«Вони зв'язалися зі мною і запропонували послуги на зразок тих, що вони надають на території збройних конфліктів в інших частинах світу, — розповів Серпас під час інтерв'ю, яке проходило в його кабінеті в Лойолівському університеті. — У мене склалося враження, що представники Palantir були зацікавлені в розробці технологій прогнозування злочинів ».

Відносини між містом і стартапом придбали офіційний характер 23 лютого 2012 року - в день підписання контракту, який надав Новому Орлеану безкоштовний доступ до платформи інтеграції даних від Palantir. За результатами проведеної поліцейським департаментом Лос-Анджелеса аудиторської перевірки, Вартість ліцензій і технічної підтримки цієї платформи може досягати мільйонів доларів щорічно.

У січні 2013 року адміністрація Нового Орлеана також надала Palantir доступ до бази Акуринт від компанії LexisNexis, містить мільйони архівних та судових записів, водійських посвідчень, адрес, телефонних номерів і даних з соціальних мереж. Компанія отримала безкоштовний доступ до особових справ засуджених і ніколи не притягувалися до відповідальності городян, що повинно було допомогти проекту удосконалити технологію.

Ні жителі Нового Орлеана, ні ключові члени міської ради, в чиї обов'язки входить контроль над використанням такого роду інформації, не були поставлені до відома щодо доступу Palantir до цих даних.

Palantir - дуже скритна компанія, а Новий Орлеан - не єдиний приклад її співпраці з міськими структурами за посередництва дочірніх некомерційних організацій, що дозволяють уникнути участі в конкурсі на держзакупівлі.

Palantir надає послуги з аналізу та синтезу інформації поліцейському департаменту Лос-Анджелеса, проте відповідну угоду було укладено не з самою поліцією, а з Асоціацією поліцейських Лос-Анджелеса. У випадку з нью-йоркською поліцією договір не був зареєстрований в міському реєстрі з міркувань безпеки (так поступають і з контрактами на поставку обладнання для стеження) і не був затверджений міською радою. Інформація про співпрацю Palantir з нью-йоркською поліцією стала надбанням громадськості лише після того, як документи, що підтверджують наявність зв'язку між компанією і найбільшим поліцейським департаментом країни, потрапили в розпорядження журналіста BuzzFeed Вільяма Олдена.

За даними Грань, В Новому Орлеані про проект знали тільки в адміністрації мера Лендрі, поліції міста і в офісі прокурора. Ключові члени міської ради не були в курсі угоди до зустрічі з репортерами видання.

партнерство з Palantir могло б стати предметом пильної уваги міської ради, якби воно було включено в бюджет окремою статтею, але програми такого роду не потребують схвалення ради. Вертикаль влади в Новому Орлеані вибудувана за моделлю «сильного мера»: у ради немає повноважень щодо затвердження контрактів або плану дій міської поліції.

Міська влада по всій країні все частіше стикаються з питанням, чи потрібно - і якщо так, то яким чином - надавати муніципальним органам повноваження з регулювання обміну інформацією та забезпечення її конфіденційності. У деяких містах, як, наприклад, Сіетлі та Окленді, в місцеве законодавство були внесені поправки, які передбачають створення комітетів, відповідальних за розробку планів розвитку і контроль за їх виконанням. Проте інші міста - і в тому числі Нью-Йорк - як і раніше обговорюють, яку роль мають відігравати міські ради при забезпеченні конфіденційності в століття цифрових технологій.

Ряд адвокатів у кримінальних і цивільних справах, тісно пов'язаних з новоорлеанской правоохоронною системою, також не були поставлені до відома щодо реалізації програми запобігання злочинів. Адвокати у кримінальних справах ніколи не бачили звітів про діяльність Palantir серед матеріалів, які звинувачення надавало в ході судового процесу, хоча вони мають бути передані стороні захисту, якщо використовувалися в розслідуванні.

На прохання Грань Джейсон Вільямс, президент міської ради Нового Орлеана і колишній адвокат, ознайомився з документами про співпрацю між Palantir і міською поліцією.

«Не думаю, що хто-небудь в раді міг би сказати, що вони знали про укладення контракту, оскільки фінансування проекту ніколи не входило в підконтрольну нам сферу», - заявив він на засіданні ради.

Вільямс, до свого обрання до міської ради в 2014 році обіймав посаду судді у кримінальних справах, додав, що він не назвав би себе непримиренним противником використання методів аналізу інформації з метою допомоги соціально незахищеним городянам.

«Мене більше турбує, як ці технології використовуються в моєму місті. Якщо з'ясується, що система використовувалася для визначення найбільш вразливих верств населення, яким загрожує ризик стати жертвами насильства, у мене буде абсолютно інше ставлення до проекту, ніж якщо з'ясується, що технологія використовувалася в сумнівних цілях ».

Фото: Depositphotos

«Виглядає так, ніби Новий Орлеан створював власну версію Агентства національної безпеки»

Сьюзан гідро, з 2010 року очолює комітет кримінальної юстиції міської ради Нового Орлеана, також не знала про роботу з Palantir. Ознайомившись з наданими Грань документами, гідро заявила, що ніколи їх до цього не бачила.

Грань відправила копії документів ряду новоорлеанских активістів, що спеціалізуються на захисті цивільних прав. Ніхто з них раніше не чув про програму - хоча до одного з них доходили чутки про співпрацю поліцейського департаменту з Palantir. Всі вони були спантеличені високим рівнем секретності проекту.

«Особливо тривожно, що межує з втручанням в особисте життя аналіз активності звичайних громадян перетворився в секретну операцію», - заявив Джим Крейг, директор луїзіанського відділення Центру юстиції імені Родеріка і Соланж Макартур. Крейг, ознайомившись з наданими Грань документами, порівняв ініціативу щодо запобігання злочинів з роботою розвідки.

«Виглядає це так, ніби Новий Орлеан створює свою власну версію Агентства національної безпеки, щоб безперервно контролювати життя городян», - зазначив він.

На його думку, влада віддала перевагу засекретити проект, щоб уникнути хвилі обурення з боку громадян.

«На сьогоднішній день люди активно виступають проти камер дорожнього руху і навіть не підозрюють, що в місті реалізується проект зі збору особистих даних», - пояснив Крейг. «Південь країни як і раніше залишається регіоном, де жителі дуже цінують конфіденційність».

Ніколас Корсар і Робін Енгель - професора з університету Цинциннаті - недавно опублікували дослідження, присвячене оцінці ефективності стратегії зниження рівня злочинності в Новому Орлеані, одним з інструментів якої була співпраця з Palantir. Вони також брали участь у створенні бази міських банд, якою користується Palantir. Ні Енгель, ні Корсар не знали ні про програму запобігання злочинам та співпраці з Palantir, Ні навіть про те, що розроблена ними база даних лягла в основу програми.

«Намагатися передбачити, хто чим буде займатися, грунтуючись на торішніх даних - повна херня», - заявив Корсар в одному з інтерв'ю.

Представники Palantir іноді згадували про свою роботу в Новому Орлеані. Проте жодна з доступних презентацій компанії, з якими вдалося ознайомитися Грань, Не містила деталей щодо індивідуалізованої системи визначення ймовірності скоєння злочину, як не було і інформації про використання та аналізі даних із соціальних мереж з метою прогнозування злочинів. Навпаки, компанія описувала свою діяльність в Новому Орлеані як «вивчення статистики скоєння особливо жорстоких злочинів і розробка стратегії точкового впливу з метою захисту найбільш вразливих верств населення міста».

Спеціалістка з цивільних прав Кортні Боуман, що бере активну участь в забезпеченні партнерства між Palantir і міською поліцією, в ході публічного виступу високо оцінила ефективність роботи компанії в Новому Орлеані, але визнала, що надмірна закритість проекту може погіршити розрив між правоохоронними органами та громадами, відчувають необгрунтоване тиск з боку поліцейських.

На відбулася 6 травня 2016 року презентації компанії (в рамках проведеної в Вищій школі інформації Берклі конференції Data Edge) Р'РѕСѓРјР ° РЅ Р · Р ° СЏРІРёР »Р °:

«Такі програми можуть бути ефективними тільки за умови, що суспільство згідно з тим, які сфери його життя будуть піддані аналізу, а також поінформоване про те, як саме буде використана отримана інформація».

Ні адміністрація Нового Орлеана, ні Palantir не прокоментували, як сформувалося їх партнерство і якого роду інформація, яка надається посадовими особами і суспільством, застосовується для прогнозування.

Ронал Серпас, який очолював поліцію Нового Орлеана на початку співпраці з Palantir, Поділився, що сам він був переконаний в необхідності довести до відома муніципалітет і широку громадськість про рішення поліції розгорнути програму з попередження злочинності. Роль місцевих законодавчих та керуючих органів в нагляді над наданням доступу до державних даними ще не врегульована. Однак Серпас впевнений, що співпраця з компаніями на кшталт Palantir забезпечить більш ретельний контроль.

«На мій погляд, це безсумнівно вимагає оцінки і погляду зі сторони», - стверджує Серпас.

Незважаючи на те, що ні співробітники Palantir, Ні посадові особи Нового Орлеана не хочуть розголошувати механізм повсякденній діяльності програми, отримані The Verge документи, зовнішні дослідження, а також спогади колишнього глави Серпаса дозволяють окреслити схему роботи цього бета-тесту протягом останніх шести років.

Прогнозуюча модель компанії в Новому Орлеані використовувала метод аналізу соціальних мереж для встановлення зв'язків між людьми, місцями, автомобілями, зброєю, адресами, постами та іншими зачіпками серед перш розрізнених баз даних.

Можна уявити такий аналіз як практичну версію схем Марка Ломбарді, що зображують зв'язку між людьми, місцями і подіями. Після введення запиту - на кшталт частини номерного знака, никнейма, адреси, номера телефону, імені або посади в соцмережі - поліцейський вивчає інформацію, зібрану Palantir і на підставі зв'язків з відомими жертвами і злочинцями визначає, хто з більшою ймовірністю вчинить злочин або постраждає від нього.

Дані збирали з соціальних мереж, а також з криміналістичних баз по балістичним експертизам, злочинним угрупованням, умовним вироками і умовно-достроковим звільненням, телефонних дзвінків з в'язниць, з бази центральної системи судочинства (тобто всіх задокументованих поліцією справ) і зі сховища протоколів поліції. Остання база даних являє собою все задокументовані бесіди поліції з громадянами, включаючи ті, що не привели до затримань. за повідомленням Часи-Picayune, В 2010 році за указом глави поліції Серпаса протоколи були визнані показником ефективності роботи співробітників поліції, що призвело до заповнення понад 70 000 протоколів в 2011 і 2012 роках.

Ця практика нагадувала поліцейський підхід «Зупини і обшукай» в Нью-Йорку і була впроваджена з метою збору якомога більшого обсягу інформації про жителів Нового Орлеана, незалежно від того, здійснювали вони злочину.

Частина номерного знака автомобіля, никнейма, адреси, номера телефону, імені в соцмережі

Потім поліція використовувала сформований Palantir список потенційних жертв і порушників закону, щоб стежити за приватними особами в рамках міської програми припинення вогню. Програма припинення вогню - це форма багаторічної політики батога і пряника, розробленої професором Девідом Кеннеді з Коледжу імені Дж. Джея в Нью-Йорку. В ході цієї програми правоохоронні органи інформують потенційних порушників з кримінальним минулим про те, що їм відомо їхнє минуле і в разі рецидиву їх притягнуть до відповідальності з максимально суворим покаранням.

Якщо суб'єкти погодяться співпрацювати, їх запрошують на обов'язкову зустріч в рамках умовно-дострокового звільнення, де їм запропонують професійне навчання, освіту, потенційне працевлаштування та послуги охорони здоров'я. Програма припинення вогню в Новому Орлеані реалізується під керівництвом організації «Новий Орлеан для життя» ( «NOLA For Life») - а це, в свою чергу, проект мера міста Лендрі, який фінансується за рахунок багатомільйонних пожертвувань приватних осіб.

За даними Серпаса, спочатку з 2013 по 2015 роки аналіз соціальних мереж в Новому Орлеані здійснювався Джеффом Ашер, колишнім агентом розвідки, які прийшли в поліцію з ЦРУ. Якщо когось вбивали з вогнепальної зброї, Ашер застосовував програмне забезпечення Palantir з метою пошуку осіб, пов'язаних з жертвою за даними соціальних мереж або протоколів.

«Цей аналіз виявляє імена і зв'язку між людьми в картках протоколів, під час обшуків автомобілів, пов'язуючи жертв злочинів, яким би не було справа. Інформація такого роду безцінна для слідства », - стверджує Серпас.

згідно власної документації Palantir, Ашер і його колеги проводять аналіз соціальних мереж всіх жертв, як загиблих, так і постраждалих в ході перестрілок в Новому Орлеані з 2011 по 2013 роки. За допомогою цього методу, який Ашер прозвав «Моделлю Нового Орлеана», поліція сформувала список з 3900 чоловік, що піддаються найбільшому ризику збройного насильства через їх зв'язку з колишніми нападниками або їх жертвами.

«Ми можемо встановити 30-40% майбутніх жертв стрілянини», - стверджує Ашер на внутрішній конференції Palantir в 2014 році. Він відхилив багаторазові пропозиції дати інтерв'ю.

У «РњРѕРґРμР» СЊ РќРѕРІРѕРіРѕ РћСЂР »РμР ° РЅР ° В»

Імовірно на підхід Ашера в значній мірі вплинуло дослідження Ендрю Папахрістоса, професора Єльського університету, який відстежував поширення насильства немов інфекційного захворювання по мережі асоціацій. Проте, оскільки на його роботи в якості наукового обґрунтування посилалися моделі ПредПол і департаменту поліції Чикаго, Папахрістос постарався відокремити своє дослідження від цих методів.

Після формування списку потенційних злочинців і їхніх жертв департамент поліції і співробітники соціальних служб вибирали тих, хто або утримувався під вартою, або знаходився під судовим наглядом, щоб призначити їм зустріч - це був «пряник» від «NOLA For Life».

Мерія Лендрі часто рекламувала програму, підносячи її як невід'ємний елемент політики в галузі кримінального правосуддя Нового Орлеана. Palantir також приписувала собі заслуги:

«Ми допомагаємо зруйнувати коло насильства в Новому Орлеані», - повідомляла стаття в технічному звіті про благодійність компанії в 2015 році. Однак реальний внесок компанії не зовсім ясний.

З 308 осіб, які взяли участь у зустрічах з жовтня 2012 по березень 2017 року, семеро закінчили професійне навчання, дев'ять - отримали трудовий досвід, однак жоден з них не отримав диплом вузу або атестат про повну загальну середню освіту. 32 учасники були час від часу працевлаштовані за направленням, а 50 - були затримані. Ще двоє померли.

У той же час правоохоронні органи активно переслідували свої цілі за програмою. З листопада 2012 (тоді був сформований новий міжвідомчий департамент по боротьбі з організованою злочинністю) по березень 2014 року різко зросла кількість звинувачень у вимаганні: згідно з внутрішніми даними Palantir, 83 передбачуваних члена з восьми банд були засуджені на терміни до 16 місяців.

Влада міста склали список з 3900 чоловік, що піддаються найбільшому ризику збройного насильства.

Кількість зустрічей з ймовірними злочинцями різко скоротилося через перші кілька років. Згідно з даними муніципалітету, в період з 2012 по 2014 роки відбулося вісім групових зустрічей, і лише три - в наступні три роки. Роберт Гудман, виходець з Нового Орлеана, який став громадським активістом після тюремного ув'язнення за вбивство, працював «респондентом» у міській програмі по припиненню вогню до серпня 2016 року, перешкоджаючи залученню людей в насильство.

Згодом Гудман зауважив акцент програми на «батіг» і сильний контроль над її заохочувальним аспектом з боку муніципалітету, що, на його думку, підриває всі вжиті зусилля.

«Програма повинна здійснюватися людьми на зразок нас, а не диктатурою мерії. До тих пір, поки кошти не направлять в потрібне русло, нічого не зміниться. Це як мертвому припарки », - стверджує він.

Через перші два роки співпраці поліції з Palantir спостерігався різкий спад кількості вбивств і збройних нападів, однак успіх був короткочасним. Навіть колишній глава поліції Серпас впевнений, що превентивний ефект від організації зустрічей з десятками осіб, що відносяться до групи ризику, - і від звинувачень в їх сторону - почав спадати.

Нік Корсар, професор Університету Цинциннаті, який допомагав поліції Нового Орлеана в формуванні бази даних злочинних угруповань, також працював і над оцінкою стратегії щодо припинення вогню. Він з'ясував, що хоч в цілому скорочення числа вбивств і збіглося з часом реалізації програми, в центральних районах міста, на які націлена ця програма, «не спостерігалося статистично значного скорочення, відповідного старту програми в листопаді 2012 року».

Простіше кажучи, дослідження не підтвердило заяв Palantir і міської влади про те, що саме їх втручання в приватне життя громадян для аналізу даних привело до тимчасового скорочення насильницьких злочинів.

Хоча зустрічі з ймовірними злочинцями і перестали проводитися, електронні листи, отримані співробітниками нашого видання, вказували на те, що відділення поліції Нового Орлеана продовжило використовувати програму Palantir для забезпечення правопорядку. Компанія відхилила всі прохання прокоментувати ситуацію, однак листи показали, що в компанії знали про можливі ризики застосування прогнозують алгоритмів і про галас, яка навколо цього піднялася.

23 травня 2016 року спеціалістка по забезпеченню недоторканності цивільних свобод в Palantir Кортні Боумен відповіла на запит криміналіста з відділу поліції Нового Орлеана Зака ​​Донін про те, чи може Palantir допомогти в створенні системи для визначення ймовірності скоєння злочину або ризику опинитися його жертвою.

«У мене є серйозні сумніви з приводу запровадження такої рейтингової системи», - писала Боумен. «Саме через це система поліції Чикаго піддалася різкому засудженню з боку громадськості», - продовжує Боумен, посилаючись на дві статті, які критикували прогнозує підхід поліції Чикаго.

«Зростаючі побоювання пов'язані з тим, що непрозорий алгоритм замінює більш цільну і якісну оцінку винності людини на видимість кількісної достовірності», - вважає Боумен. «Одне з реальних переваг нашої роботи з аналізу соціальних мереж полягає в тому, що машина ще не повністю замінила людини. Таким чином, ми можемо бути впевнені, що соцмережі проглядаються і аналізуються з достатньою серйозністю ».

Не звертаючи уваги на постійне зниження кількості вбивств в Новому Орлеані, Palantir скористався зв'язками з відділом поліції Нового Орлеана для укладення великих контрактів з іншими американськими містами. Пізніше компанія отримала прибуткові контракти на створення прогнозують програм від урядів інших країн.

Згідно з виявленим електронних листів, в кінці 2013 року співробітники відділу продажів Palantir звернулися до відділення поліції Чикаго з пропозицією купити прогнозуюче програмне забезпечення, перевірене в Новому Орлеані, за три мільйони доларів. За допомогою декількох федеральних грантів, наданих відділенню поліції Чикаго з 2009 року, поліція і наукові співробітники Іллінойського технологічного інституту вже створили власну програму по прогнозуванню злочинів, яка здатна прорахувати рівень ризику для людини, грунтуючись на кримінальній статистиці і на даних соцмереж.

19 серпня 2014 року Кеті Лейдлоу, керівник відділу продажів Palantir, писала начальнику поліції Чикаго Джонатану Льюин: «Я б хотіла зв'язатися з офіцером Маккарті з приводу можливої ​​співпраці з нашою компанією на підставі підтверджених успіхів у скороченні вбивств в Новому Орлеані».

З листів також стало відомо, що поліція Чикаго сподівалася отримати грант від Міністерства внутрішньої безпеки на придбання програмного забезпечення Palantir. Однак ні тестування, ні покупка програми так і не відбулися.

Начальник поліції Льюин, відповідальний за їх власну що прогнозує модель і учасник переговорів з Кеті Лейдлоу про покупку програми Palantir, В інтерв'ю Радіо Свобода заявив, що знав про співпрацю Palantir з органами правопорядку інших міст, але ніколи не схвалював ні тестування програми, ні її придбання.

Компанії не вдалося продати свій продукт поліції Чикаго, зате вона здобула популярність серед зарубіжних служб безпеки.

Для придбання програмного забезпечення Palantir Данії довелося отримати звільнення від регламенту захисту даних Європейського Союзу.

У 2016 році поліція і розвідувальні служби Данії уклали с Palantir контракт на 7 років. Об'єктом продажу стало прогнозуюче програмне забезпечення для виявлення потенційних терористів. Данські газети писали, що вартість склала від 14 до 41 мільйона доларів.

Згідно закупівельними документам, для прогнозування ймовірності скоєння теракту програма використовує дані органів правопорядку: автомобільні номери, відео з камер спостереження і поліцейські звіти. Для придбання програмного забезпечення Palantir Данії довелося отримати звільнення від регламенту захисту даних Європейського Союзу.

До контракту з Данією в 2016 році в звітах про роботу Palantir Technologies з органами правопорядку ніколи не згадувалися програми для прогнозування.

У 2017 році в ліберальної ізраїльській газеті Haaretz з'явилося повідомлення про те, що спецслужби Ізраїлю використовували системи аналізу, які прочісували соцмережі та інші джерела даних для виявлення ймовірних злочинців-одинаків з палестинських поселень на західному березі річки Йордан.

Також було відзначено, що Palantir - одна з двох організацій, яка могла б надати прогнозують інтелектуальні системи ізраїльським спецслужбам. проект Palantir в Новому Орлеані - це перший відомий випадок використання цією компанією даних з соцмереж.

«Я не здивований, що за кордоном за допомогою цієї інформації заарештовують людей», - висловився голова ради Нового Орлеана Джейсон Вільямс, вказуючи на відмінності в судових системах Ізраїлю і США. «Використання технологій для того, щоб обійти Конституцію - це остання річ, яку я б хотів побачити в своїй країні».

Великі міста на всій території США, такі як Нью-Йорк, зараз розглядають законопроекти, що дозволяють контролювати алгоритми, які органи державного управління використовують при прийнятті рішень.

Цієї дискусії ще тільки належить розпочатися в Новому Орлеані - місті, де велика частина політичних промов присвячена все ніяк не що знижується рівнем злочинності. Однак секретність відносин Palantir і поліції Нового Орлеана викликає тривогу у сторонніх спостерігачів і множить питання про те, як використовуються алгоритми компанії.

Вільям Айзек, вчений з Університету штату Мічиган, аналізував прогнозують поліцейські системи на упередженість і заявив, що вже давно підозрював Palantir в створенні такої програми.

«Публічно вони висловлювалися тільки про те, як їх технологія справляється з протиріччями в даних і візуалізується».

Після вивчення документів проекту Palantir в Новому Орлеані, Айзек зауважив, що програма неймовірно схожа на систему зі «списком ризику» в Чикаго. У стратегічному дослідному центрі RAND також виявили, що ця система не зробила ніякого впливу на кількість серйозних злочинів, а в списку було на диво багато молодих афро і латиноамериканців, які раніше мали проблеми з законом.

«Якщо ви збираєтеся щось прогнозувати, необхідно мати повне уявлення про це. Якщо ви намагаєтеся попередити злочин, потрібно мати позитивні і негативні приклади передбачення можливого правопорушення », - пояснює Айзек.

У відділень поліції є така проблема - багато даних про райони, де вони працюють, і мало про тих, де вони не настільки активні (зазвичай там переважають заможні люди європейської раси).

«Ті ж недоліки, що в прогнозуючої системі Чикаго, а в умовах Нового Орлеана вони лише посиляться», - продовжує Айзек.

Секретність, що оточує програму в поліції Нового Орлеана, також викликає сумнів, чи отримали обвинувачені докази, які мали право бачити. Сара Сент-Вінсент, дослідниця з Права людини дивитися (Неурядової організації, що здійснює моніторинг, розслідування і документування порушень прав людини), нещодавно опублікувала півторарічного розслідування на тему приховування доказів, отриманих органами охорони правопорядку в ході спостережень за підозрюваним.

У своєму інтерв'ю Сент-Вінсент заявила, що приховування зібраних даних (цим характеризується, зокрема, робота прогнозуючої програми в Новому Орлеані) серйозно підриває систему стримувань і противаг кримінального судочинства. У грудні 2017 року на конференції Інституту Катона з проблем спостереження, Сент-Вінсент підняла питання про те, чому інформація, зібрана поліцією за допомогою прогнозують систем, не з'являється в обвинувальних актах або позовах.

«Саме суддя повинен оцінити, чи правомірні в цьому випадку дії влади», - вважає Сент-Вінсент. «Адвокати захисту будуть праві, якщо висловлять свої побоювання про використання даних, які можуть бути упереджені або недостовірні».

Якби про співпрацю Palantir і поліції Нового Орлеана було відомо, то питання законності, прозорості та правомірності можна було б обговорити на якомусь форумі, причому в обговоренні взяли б участь юристи, співробітники правоохоронних органів, представники компанії і громадськість. Але за шість років цього так і не відбулося.

Переклад: Влада Ольшанська, Марія Єлістратова, РђРЅРЅР ° Р'Р ° СЃРёР »РμРЅРєРѕ

Читайте також на ForumDaily:

Самотність в мережі: американська компанія продає ботів і фальшивих передплатників

Російський слід у скандалі з витоком даних Facebook

Як видалити профіль в ВКонтакте

Як вчений з Росії вкрав і продав дані мільйонів користувачів Facebook

Хочете більше важливих та цікавих новин про життя в США та імміграцію до Америки? - Підтримайте нас донатом! А ще підписуйтесь на нашу сторінку в Facebook. Вибирайте опцію «Пріоритет у показі» і читайте нас першими. Крім того, не забудьте оформити передплату на наш канал у Telegram  і в Instagram- там багато цікавого. І приєднуйтесь до тисяч читачів ForumDaily Нью-Йорк — там на вас чекає маса цікавої та позитивної інформації про життя в мегаполісі.