Урядові відомства по всій Південній Африці все частіше покладаються на цифрові інструменти для оцінки державних програм і моніторингу ефективності. Це частина ширших реформ державного сектору. Їхні цілі — покращити підзвітність, реагувати на тиск аудиту та управляти масштабними програмами з обмеженим персоналом і бюджетами.
Ось приклад. Національні відомства, які відстежують надання житла, соціальні гранти або розгортання інфраструктури, покладаються на цифрові системи оцінки ефективності, а не на періодичні паперові звіти. Панелі управління — спосіб показу візуальних даних в одному місці — забезпечують майже оновлення в режимі реального часу про надання послуг.
Інший приклад — використання платформ, які збирають мобільні дані. Вони дозволяють співробітникам першої лінії та підрядникам завантажувати інформацію безпосередньо з місця.
Обидва приклади сприяють використанню штучного інтелекту (ШІ) для обробки великих масивів даних і створення висновків, для аналізу яких раніше знадобилися б місяці.
Цей перехід часто зображується як крок уперед для підзвітності та ефективності в державному секторі.
Я дослідник державної політики з особливим інтересом до моніторингу та оцінки державних програм. Моє недавнє дослідження показує тривожну тенденцію: перехід до технологій відбувається набагато швидше, ніж етичні та управлінські рамки, які мають його регулювати.
У всіх випадках, які я досліджував, цифрові інструменти вже були вбудовані в рутинні процеси моніторингу та оцінки. Але не було чітких стандартів, які б керували їх використанням.
Це створює ризики, пов'язані зі спостереженням, виключенням, неправильним використанням даних і поганими професійними судженнями. Ці ризики не абстрактні. Вони формують те, як громадяни взаємодіють з державою, як обробляються їхні дані та чиї голоси зрештою враховуються в політичних рішеннях.
Коли технології випереджають політику
Оцінка державного сектору передбачає аналіз урядових програм і політик. Вона визначає, чи:
- державні ресурси використовуються ефективно
- програми досягають своїх цілей
- громадяни можуть притягнути державу до відповідальності за результати.
Традиційно ці оцінки спиралися на особисте спілкування між громадами, оцінювачами, урядом та іншими. Вони включали якісні методи, які дозволяли нюанси, пояснення та побудову довіри.
Цифрові інструменти змінили це.
У своєму дослідженні я опитував оцінювачів у різних урядових структурах, НУО, академічних установах, професійних асоціаціях і приватних консалтингових компаніях. Я виявив постійну стурбованість у всіх. Цифрові системи часто впроваджуються без етичних вказівок, адаптованих до практики оцінки.
Етичні вказівки надавали б чіткі, практичні правила щодо того, як цифрові інструменти використовуються в оцінках. Наприклад, при використанні панелей управління або автоматизованої аналітики даних, вказівки повинні вимагати від оцінювачів пояснити, як генеруються дані, хто має до них доступ і як результати можуть вплинути на громади, які оцінюються. Вони також повинні запобігати використанню цифрових систем для моніторингу окремих осіб без згоди або для ранжування програм у способи, які ігнорують контекст.
Закон Південної Африки про захист персональної інформації забезпечує загальну правову основу для захисту даних. Але він не вирішує конкретні етичні дилеми, які виникають, коли оцінка стає автоматизованою, хмарною та алгоритмічно опосередкованою.
Результатом є те, що оцінювачі часто залишаються навігувати складною етичною територією без чітких стандартів. Це змушує установи покладатися на прецеденти, неформальні звички, минулі практики та налаштування програмного забезпечення за замовчуванням.
Поступове спостереження та неправильне використання даних
Цифрові платформи дозволяють збирати великі обсяги даних. Як тільки дані завантажуються в хмарні системи або сторонні платформи, контроль над їх зберіганням, повторним використанням і обміном часто переходить від оцінювачів до інших.
Кілька оцінювачів описали ситуації, коли дані, які вони зібрали від імені урядових відомств, пізніше повторно використовувалися відомствами або іншими державними органами. Це було зроблено без явної обізнаності учасників. Процеси згоди в цифрових середовищах часто зводяться до одного кліку.
Приклади інших використань включали інші форми аналізу, звітності або інституційного моніторингу.
Одним з етичних ризиків, який виявився в дослідженні, було використання цих даних для спостереження. Це використання даних для моніторингу окремих осіб, громад або працівників першої лінії.
Цифрове виключення та невидимі голоси
Інструменти цифрової оцінки часто представляються як розширення охоплення та участі. Але на практиці вони можуть виключати вже маргіналізовані групи. Громади з обмеженим доступом до Інтернету, низькою цифровою грамотністю, мовними бар'єрами або ненадійною інфраструктурою менш імовірно повністю беруть участь у цифрових оцінках.
Автоматизовані інструменти мають обмеження. Наприклад, вони можуть мати труднощі з обробкою багатомовних даних, місцевих акцентів або культурно специфічних форм вираження. Це призводить до часткових або спотворених уявлень про пережитий досвід. Оцінювачі в моєму дослідженні бачили, як це відбувається на практиці.
Це виключення має серйозні наслідки, особливо в країні з нерівністю, як Південна Африка. Оцінки, які сильно покладаються на цифрові інструменти, можуть виявити міське, підключене населення та зробити сільські або неформальні громади статистично невидимими.
Це не лише технічне обмеження. Воно формує, які потреби визнаються та чий досвід інформує політичні рішення. Якщо дані оцінки недостатньо представляють найбільш вразливих, державні програми можуть здаватися більш ефективними, ніж вони є насправді. Це маскує структурні невдачі, а не вирішує їх.
У моєму дослідженні деякі оцінки повідомляли про позитивні тенденції ефективності, незважаючи на те, що оцінювачі відзначали прогалини в зборі даних.
Алгоритми не нейтральні
Оцінювачі також висловили занепокоєння щодо зростаючого авторитету, наданого алгоритмічним результатам. Панелі управління, автоматизовані звіти та аналітика, керована ШІ, часто розглядаються як справжня картина. Це відбувається навіть тоді, коли вони конфліктують з польовими знаннями або контекстуальним розумінням.
Наприклад, панелі управління можуть показувати ціль як таку, що йде за планом. Але в прикладі відвідування місця оцінювачі можуть виявити недоліки або незадоволення.
Кілька учасників повідомили про тиск з боку спонсорів або установ покладатися на аналіз цифр.
Проте алгоритми відображають припущення, масиви даних і пріоритети, вбудовані в їх дизайн. Коли застосовуються некритично, вони можуть відтворювати упередження, надмірно спрощувати соціальну динаміку та ігнорувати якісне розуміння.
Якщо цифрові системи диктують, як повинні збиратися, аналізуватися та повідомлятися дані, оцінювачі ризикують стати технічними фахівцями, а не незалежними професіоналами, які виносять судження.
Чому Африці потрібна контекстно-чутлива етика
По всій Африці національні стратегії та політики щодо цифрових технологій часто багато запозичують з міжнародних рамок. Вони розроблені в дуже різних контекстах. Глобальні принципи етики ШІ та управління даними надають корисні орієнтири. Але вони недостатньо вирішують реалії нерівності, історичної недовіри та нерівномірного цифрового доступу в більшій частині державного сектору Африки.
Моє дослідження стверджує, що етичне управління цифровою оцінкою має бути контекстно-чутливим. Стандарти повинні вирішувати:
- як отримується згода
- хто володіє даними оцінки
- як вибираються та перевіряються алгоритмічні інструменти
- як захищається незалежність оцінювача.
Етичні рамки повинні бути вбудовані на етапі проектування цифрових систем.
Lesedi Senamele Matlala, старший викладач і дослідник державної політики, моніторингу та оцінки, Університет Йоганнесбурга
Ця стаття перевидана з The Conversation за ліцензією Creative Commons. Прочитайте оригінальну статтю.
