Автор Григоренко Христина 
Кріс Кремідас-Куртні-старший співробітник у Європейському центрі політики, співробітник Женевського центру політики безпеки та автор «Решту вашого життя: п’ять історій вашого майбутнього».
Карл Саган одного разу попередив про майбутнє, в якому громадяни, відірвані від науки та розуму, стануть пасивними споживачами втішних ілюзій. Він побоювався, що суспільство “не в змозі розрізнити те, що відчуває себе добре, і те, що правда”, – вболівальники, стискаючи кристали та гороскопи.
Але що саган передбачений Як повільне цивілізаційне занепад зараз, здається, прискорюється, незважаючи на технологічний прогрес, а через те, як його озброїться.
Через бахроми платформи та зашифровані канали моделі штучного інтелекту навчаються не для інформування, а підтверджувати. Вони оптимізовані для ідеологічної чистоти, належним чином перегукуються з світоглядом користувача та розгорнуті для тренувань систем вірувань, а не кидають виклик нам думати. Ці системи не галюцинують навмання. Натомість вони подають розповідь із переконанням, вільним та зворотним зв'язком, що імітують близькість, розмиваючи незалежну думку.
Ми переходимо з епохи дезінформації в одну з інженерних оманок.
Розглянемо neo-llm, a чатбот Навчали понад 100 000 статей про змови з Natural News, одного з п’яти найгірших розповсюджувачів дезінформації під час недавньої пандемії. Це допомагає користувачам розробити анти-вакцинові петиції, розбудови науки з Pseudoscience та будувати спільноту за допомогою спільної недовіри. Це не виправляє або задає питання. Це просто погоджується, красномовно і невпинно. Алекс Джонс ' Інфауки побудував подібний ШІ, навчений на власних дискредитованих медіа -результатах.
Те, що почалося з мереж взаємопов'язаних веб -сайтів наприкінці 2010 -х, перетворюється на когнітивну архітектуру, яка відчуває себе особистою. Ми є свідками – це промислове масштабування кошмару Сагана, за винятком того, що кристали зараз вільно і переконливо говорять.
Цей спуск не почався з алгоритмів. Це почалося з відчуження, економічної невпевненості, інституційної невдачі та соціальної фрагментації. Люди відступили від громадянського життя та почуваються покинутими громадськими системами, часто шукають відповіді. Тепер вони знаходять його на машинах, які відображають їх тривоги і посилюють їх на ідеологію.
AI – це не сама проблема, а скоріше остаточне посилання в ланцюзі зброї, який розпочався з кластерів веб -сайтів і закінчується системами, розробленими для когнітивного захоплення. Багато в чому це нагадує так, як деякі експерти попереджати що метаверс Можна озброюватися, щоб кинути виклик когнітивному самовизначенні. Але в цьому випадку це метаверс без окулярів віртуальної реальності, когнітивний корпус, де переконання спроектовано не через занурення, а підтвердження.
Як недавній вивчення Скажіть нам, коли люди більше не відчувають відповідальності за мислення, вони стають вразливими до того, що (або хто завгодно) думає про них. Рішення не надходить лише з регулювання. Незважаючи на те, що юридичні гарантії, як оновлений акт АІ, можуть допомогти на полях, реальна робота полягає в культурному оновленні, починаючи з відновлення звичок розслідування. Викладаючи людей ще раз, як зупинитися на невизначеності, не здаючись змові. Будуючи м’язову пам’ять, щоб запитати: “Як я це знаю? Що я не бачу? Що робити, якщо я помиляюся?”
Ми повинні відновити спільну розумову стійкість не просто для того, щоб протистояти маніпуляції, а залишатися присутнім зі складністю. Це означає навчитися терпіти неоднозначність, вшанувати нюанс та брати участь у незгоді, не стаючи незайнятими від реальності. Саган назвав цю свічку в темряві, спосіб мислення, обґрунтованого в доказах, скептицизмі та смиренності.
Зараз наш цифровий пейзаж нагороджує визначеність, обурення та емоційну інтенсивність. Але, як громадяни, ми повинні почати винагороджувати щось інше – сміливість розглянути та переглянути наші погляди, терпіння до вивчення конфліктної інформації та сили визнати, коли ми щось не знаємо.
Нічого з цього не легко. Але якщо ми ставимося до цього моменту як лише до технологічного зриву, ми ризикуємо пропустити глибшу небезпеку: ерозія нашої волі до вільного мислення. Машини цього не забирають. Ми даруємо його по черзі.
ТВін Просвітництво дало нам інструменти для вільного мислення, і сьогодні наше завдання – це пам’ятати, як ними користуватися. Ми побудували машини, які можуть перевершити наше пізнання, але не нашу совість. Що потрібно зараз, не є кращими підказками або швидшими моделями. Це культурне пробудження: оновлена прихильність до розрізнення, діалогу та повільної, безладної роботи з пошуку правди разом.