Вчені та дослідники все більше цінують наукову фантастику за її внесок у передбачення майбутніх сценаріїв. У рамках своєї місії досліджувати напрямки, до яких ведуть нас зміни в науці та наукових системах, The Центр майбутнього науки поспілкувався з шістьма провідними авторами наукової фантастики, щоб зібрати їхні погляди на те, як наука може протистояти численним суспільним викликам, з якими ми зіткнемося в наступні десятиліття. Подкаст створений у партнерстві з Nature.
У нашому шостому й останньому епізоді Корі Доктороу приєднується до нас, щоб обговорити проблему довіри до науки та те, що ми можемо зробити, щоб її зміцнити. Він охоплює питання штучного інтелекту, алгоритмів і моделей навчання. Для Doctorow він хоче побачити, як координаційну силу цифрових технологій можна використовувати для більш сталого майбутнього.
Корі Доктороу
Він є автором багатьох книг, останніх Втрачена справа, сонячно-панківський науково-фантастичний роман надії серед надзвичайної кліматичної ситуації Інтернет-шахрайство: як заволодіти обчислювальними засобами та Червона команда Блюз. У 2020 році його ввели до Зали слави канадської наукової фантастики та фентезі. Народився в Торонто, зараз живе в Лос-Анджелесі.
Пол Шрівастава (00:03):
Привіт, я Пол Шрівастава з Університету штату Пенсільванія. У цій серії подкастів я розмовляю з деякими провідними світовими письменниками-фантастами. Я хочу почути від них, як наука може допомогти нам подолати багатогранні виклики, які нас чекають. Зрештою, вони заробляють на життя думками про майбутнє та про те, яким воно могло б чи повинно бути.
У цьому епізоді я розмовляю з Корі Доктороу, письменником-фантастом, журналістом і технологічним активістом. За останні два десятиліття він опублікував багато робіт про технологічні монополії та цифрове стеження. Наша розмова торкнулася управління цифровими правами та соціальної справедливості та сталого розвитку в цифровому світі. Сподіваюся, вам сподобається.
Ласкаво просимо, Корі, і дякую за участь у цьому подкасті. Чи можете ви почати з того, що розкажете нам трохи більше про ваші стосунки з наукою, загалом, і з науковою фантастикою?
Корі Доктороу (01:05):
Що ж, я ріс у надзвичайно вдалих обставинах для людини, яка цікавиться науковою фантастикою. Я виріс саме в Торонто у 1980-х роках. І там була жінка, яка була справжнім вихором у цій галузі, жінка на ім’я Джудіт Мерріл, видатна письменниця, редактор і критик. Вона була дуайєном британської нової хвилі наукової фантастики. І, отже, Джуді дозволяла будь-кому приносити свої історії та тренуватися з нею, вона їх критикувала. Тож це було як... я не знаю. Це все одно, що отримати допомогу з домашнього завдання з фізики від Ейнштейна. А потім вона розпочала письменницькі семінари, де багатообіцяючих письменників, які приходили до неї, вона збирала їх на щотижневі зустрічі. І тому я був в одному з них протягом багатьох років, і я був якомога ближче до формального учнівства в науковій фантастиці.
З точки зору науки, знаєте, я дилетант. Найближче, щоб стати науковцем, я маю почесний ступінь з інформатики у Відкритому університеті, де я є запрошеним професором комп’ютерних технологій. І, зокрема, у мене були чудові політичні стосунки з інформатикою, тому що вже більше 20 років я працював у сфері, яку можна загалом назвати цифровими правами людини, пов’язаними з доступом до інформації, цензурою, конфіденційністю та справедливістю онлайн.
Пол Шрівастава (02:17):
Тож давайте заглибимося в деякі з цих проблем. Ви мали справу з низкою цих тем, що стосуються технологічних досягнень і на чиї інтереси та користь вони працюють. Ви говорили про технологію спостереження в Маленький брат, закони про авторське право в Піратське кіно, до криптовалюти в Червона команда Блюз. Дуже часто наративи зображують негативні наслідки неконтрольованого технологічного зростання або технологічного зростання на службі капіталізму, якщо хочете. Отже, як ви бачите роль науки в цьому все більш цифровому ландшафті, в який ми входимо?
Корі Доктороу (02:57):
Я думаю, що наука неможлива без капіталу. У тому сенсі, що науку відрізняє від форм створення знань, які передують просвітництву, це доступ, який є передумовою для змагальності експертної оцінки. І тому, якщо залишити осторонь моральні зобов’язання — я думаю, ми можемо сказати, що всі ми маємо моральні обов’язки один перед одним — я вважаю, що є лише інструментальний випадок для того, щоб сказати, що якщо іншим людям не дозволено перевіряти ваші дані та ваші методи, і спробувати повторити вашу роботу та вільно вас критикувати, тоді ви не займаєтеся наукою. Алхіміки зробили річ, яка дуже нагадувала науку, чи не так? Вони спостерігали за світом, вони сформулювали гіпотезу, вони розробили експеримент, вони провели експеримент, а потім усі померли від вживання ртуті. Тому що виявляється, ви можете обманювати себе, що експеримент був успішним, аж до того, що отруєння ртуттю вбиває вас.
Корі Доктороу (04:05):
І різниця між алхімією та наукою не в тому, що вчені, які прийшли пізніше, були розумнішими або менш схильними до самообману. Справа в тому, що вони підлягали суворій змагальній експертній оцінці, яка як передумова вимагає публікації та доступу. І я думаю, що коли у вас є концентрація влади в комерційному секторі, тобто монополія, регуляторам дуже важко залишатися незалежними. Ці фірми стають надто великими, щоб збанкрутувати, і надто великими, щоб ув’язнити. Тоді ви фактично створюєте умови для того, щоб люди заперечували науку, що має катастрофічні наслідки для них самих, а також для всіх нас.
Пол Шрівастава (04:39):
Що ж, я згоден з вами, що є потреба. Я думаю, що захоплення, про яке ви маєте на увазі силами корпорацій і урядів, які є двома основними джерелами фінансування науки, завершене. І зараз ми дивимося на штучний інтелект як на всеосяжну наукову спробу, яка змінить усе. Які політичні рекомендації ви могли б запропонувати для всієї цієї арени?
Корі Доктороу (05:09):
Що ж, я хотів би почати з того, що як перша особа, яка згадала ШІ, ви зобов’язані випити всім іншим на цьому дзвінку. Зараз це правило для ШІ. Дозвольте мені почати із застереження, яке полягає в тому, що я не впевнений, що штучний інтелект – це те, про що ви говорите, це всепроникна наукова спроба, яка змінить усе, з багатьох причин. Я скептично ставлюся до того, що без ретельного нагляду штучний інтелект зможе виробляти надійні... речі, достатньо надійні для використання в середовищах з високими ставками. І якщо нагляд потребує такої ж старанності, як у нас раніше, то я не знаю, чи є для цього підстави. Я вважаю, що якщо ми будемо розсудливими з точки зору нашого регулювання і скажемо: «Слухай, якщо штучний інтелект може галюцинувати і якщо галюцинації призводять до летальних наслідків, ШІ можна буде контролювати лише в якомусь співвідношенні один до один». Якщо безпілотний автомобіль їде безпечно 90% часу і 10% часу прискорюється до зустрічного руху, тоді кількість водіїв-наглядачів, яка вам потрібна для кожного безпілотного автомобіля, дорівнює одному, тобто ви не звільнити одного водія. Тож тепер у вас просто дорожчий автомобіль.
Корі Доктороу (06:14):
І я вважаю, що будь-яка бульбашка, яка залежить від продовження залучення інвестиційного капіталу, яка здебільшого запалюється до того, як буде отримано будь-який прибуток, має справді працювати на великій ажіотажі. І ми бачимо цей ажіотаж навколо нас у величезній мірі. Замість того, щоб турбуватися про фактичні явні занепокоєння щодо штучного інтелекту, який є алгоритмом підтримки прийняття рішень, який відмовляє вам у видачі іпотеки через вашу расу, або який відправляє вашу дитину в служби захисту через ваш економічний статус, або який відмовляє вам під заставу чи вступ до країні, ми зосереджуємося на — відверто кажучи, у моїй професійній якості — поганій науковій фантастиці про автозаповнення на стероїдах, яке прокидається та перетворює нас усіх на канцелярські скріпки. Це залишає осторонь реальні матеріальні речі, які відбуваються з ШІ.
Пол Шрівастава (07:08):
Отже, яка роль наукових комунікаторів у лопненні цієї бульбашки, ажіотажу, який піднявся навколо ШІ? Я маю на увазі, що загальний наратив там такий, що це все змінить. І те, що я чую від вас, свідчить про те, що в основі цього лежать деякі реальні фундаментальні проблеми.
Корі Доктороу (07:26):
Я думаю, що є деякі прогалини в основній лінії наукового спілкування про ШІ, які можна було б плідно заповнити. Тож я ніколи не чув, щоб науково-популярна програма описувала потенційні межі федеративного навчання. наприклад Що станеться, якщо ми вимкнемо великі сервери? Що, якщо інвестори просто підуть далі? Як виглядатиме штучний інтелект, якщо ми ніколи не навчатимемо іншої великої моделі, а все, що ми робимо, це налаштовуватимемо існуючі моделі, які можуть працювати на звичайному апаратному забезпеченні? А потім систематику додатків, які не чутливі до загальноприйнятих проблем зі штучним інтелектом, отже, додатки з низькими ставками або стійкі додатки. Що це за програми? Якщо ми візьмемо всі програми, де вам потрібен індивідуальний нагляд, які це? І ми виймаємо їх, а потім що залишається?
Пол Шрівастава (08:15):
Переходимо до розмови про період антропоцену. Процеси, які підтримують життя, зараз змінюються, якщо не повністю руйнуються. Як ми можемо використати прогрес у цифровому світі, який ви охопили багатьма різними способами, щоб пом’якшити вплив людини на навколишнє середовище та забезпечити стале майбутнє?
Корі Доктороу (08:38):
Мій останній роман — це роман про це, так він називається Втрачена справа. І те, що сталося в цьому романі, не є deus ex. Ми не придумали, як уловлювати вуглець зі швидкістю, яка суперечить усім сучасним сучасним технологіям. Але ми сприйняли це серйозно. Ось ми, знаєте, у пастці в цьому автобусі, що мчить до скелі. А люди в перших рядах і в першому класі продовжують говорити, що тут немає обриву. І якщо є скеля, ми будемо прискорюватися, поки не переїдемо через неї. І одне ми точно знаємо: ми не можемо відхилитися. Якщо ми звернемо, автобус може покотитися, і хтось може зламати руку, а зламана рука нікому не потрібна. І це книжка, де люди хапаються за кермо й збочують. Де мільйони людей задіяні в дуже серйозних довгострокових проектах, щоб зробити такі речі, як перенесення кожного прибережного міста на кілька кілометрів углиб країни.
Корі Доктороу (09:32):
І ця адаптація до клімату, якщо ви подумаєте про це, справді запаморочлива. Може бути трохи деморалізуючою думка: ну, я припускаю, що вся зайва праця, яка є у кожного протягом наступних 300 років, піде на виправлення цих дурних помилок, які ми зробили раніше. І тому ця книга про цей проект. Йдеться про те, щоб продовжити цей проект, керуючись думками мого дорогого друга, який нещодавно написав дуже гарну книгу, Деббі Чахра, чия книга називається Як працює інфраструктура. А Деб — матеріалознавець, і вона зазначає, що енергії насправді нескінченно багато, але матеріалів дуже мало. І все ж протягом більшої частини історії людства ми ставилися до матеріалів як до надлишку, використовували їх один раз і викидали. І ми ставилися до енергії як до дефіциту. І є технічна переорієнтація, яка прихована в цій книзі, і про яку Деб дуже чітко говорить у своїй книзі, у якій ми робимо такі речі, як використання більше енергії для виробництва речей, щоб їх було легше розкласти назад у матеріальний потік.
Пол Шрівастава (10:38):
Здається, ми зайняті поглинанням планети безпрецедентними темпами. І чи може наукова фантастика якось допомогти людям переформулювати свій світогляд, щоб він був більш сумісним із тим, що відбувається тут — нашими викликами на цій планеті?
Корі Доктороу (10:54):
Ну, і це те, про що я пишу з моменту свого роману Іти геть, у 2017 році. Ця ідея про те, що достаток виникає через доступ до матеріалу, а також через соціальне конструювання того, що ми хочемо. І, нарешті, ефективність розподілу товарів. Отже, я домовласник, а це означає, що мені тричі на рік потрібно пробивати дірку в стіні. Отже, у мене є дриль, і я жартома називаю її мінімально життєздатним буром. Це свердло, яке є економічно раціональним для того, хто робить три отвори на рік. І я змушений віддати цілу шухляду для зберігання цієї жахливої дрилі. І що ви розумієте, так це те, що ви платите величезні податки, як за розмір товарів, які у вас є, так і за наявність місця у вашому домі, щоб мати доступ до речей, які вам рідко потрібні. Є ще один вид тренувань, я іноді називаю їх бібліотечними соціалістичними тренуваннями, коли у вашому районі є просто стохастична хмара тренувань, які знають, де вони знаходяться, які зберігають телеметрію щодо їх використання для покращення майбутнього виробництва. Вони легко розкладаються назад у потік матеріалу. І ви завжди можете взятися за дриль, коли вам це потрібно, і це найкраще свердло, яке будь-коли створювалося.
Корі Доктороу (12:08):
Помножте це на газонокосарки та додаткові тарілки, які ви зберігаєте на Різдво чи вечерю, і всі інші речі, які є у вашому домі і які вам не потрібні постійно. І це світ величезного достатку. Це більше розкоші. І коли ви об’єднуєте ці три речі: ефективність використання матеріалів та енергії, координаційну природу технології та розробку наших бажань, ви побачите майбутнє, у якому ми будемо жити зі значно меншим матеріальним та енергетичним слідом і матимемо набагато більше розкішне життя. Життя величезного достатку.
Пол Шрівастава (12:42):
У зв’язку з цим обнадійливим повідомленням я задам вам останнє запитання. Тобто, якби наука могла винести один урок із наукової фантастики, що б ви подумали?
Корі Доктороу (12:56):
Я б сказав, що найважливіше, що робить наукова фантастика щодо науки, це кидає виклик суспільним відносинам технології та наукових відкриттів і наукового знання. Найважливіше питання про технологію рідко: що це робить? Але скоріше, для кого це робиться і кому це робиться? І ця технологія під демократичним контролем дуже відрізняється від технології, яку нав’язують людям.
Ідея про те, що технологія, розроблена зі смиренністю розуміти, що ви не можете передбачити обставини, за яких ця технологія буде використана, і тому ви залишаєте простір для самих користувачів, щоб її адаптувати, – це найкраще з усіх технічних світів. І кожна мова має для цього назву. Ви можете назвати це боджом, що іноді є дещо принизливим. Але я думаю, що ми всі любимо гарний бодж. По-французьки це bricolage. На хінді це джугаад.
Пол Шрівастава (14:00):
Jugaad!
Корі Доктороу (14:02):
У кожній мові є слово для цього, і ми його любимо. І тільки через смирення передбачити неочікуване ми стаємо гідними предками для наших інтелектуальних нащадків, які прийдуть після нас.
Пол Шрівастава (14:22):
Дякуємо, що прослухали цей подкаст від Центру майбутнього науки Міжнародної наукової ради, створеного у партнерстві з Центром людської уяви Артура К. Кларка при Каліфорнійському університеті в Сан-Дієго. Відвідайте сайт futures.council.science, щоб дізнатися більше про роботу Центру майбутнього науки. Він зосереджений на нових тенденціях у наукових і дослідницьких системах і пропонує варіанти та інструменти для прийняття більш обґрунтованих рішень.
Пол Шрівастава, професор менеджменту та організацій Університету штату Пенсільванія, вів серію подкастів. Спеціалізується на реалізації Цілей сталого розвитку. Подкаст також створено у співпраці з Центром людської уяви Артура К. Кларка при Каліфорнійському університеті в Сан-Дієго.
Проект курував Матьє Дені і несли Дун ЛюЗ Центр майбутнього науки, аналітичний центр ISC.
фотографія з Еліменде Інагелла on Unsplash.
відмова
Інформація, думки та рекомендації, представлені в наших гостьових блогах, належать окремим авторам і не обов’язково відображають цінності та переконання Міжнародної наукової ради.
Дізнайтеся більше про Подкаст із Цюфан Ченом: Наукова фантастика та майбутнє науки: цінності та сенс у штучному інтелекті 
Докладніше про Подкаст із Фернандою Тріас: Наукова фантастика та майбутнє науки: уроки еко-антиутопії 
Дізнайтеся більше про Podcast with Vandana Singh: Science Fiction and the Future of Science: Data, Narrative, and Transdisciplinarity 