Реальная угроза искусственного интеллекта – фундаментальная наука

Родриго К. Баррос

Что общего у ИИ и хлорохина?

*

Читатель уже осознал астрономическое влияние искусственного интеллекта (ИИ) на бизнес и правительства, настолько, что крупнейшие экономики почувствовали себя вынужденными разработать стратегические планы в отношении этой технологии. Но пока не все понимают реальные риски, связанные с технологиями.

Исторический обзор искусственного интеллекта переносит нас на американские горки преувеличенных обещаний и гигантских разочарований. Одна из вех – появление искусственных нейронных сетей (ИНС) в 1958 году, когда Фрэнк Розенблат изобрел «персептрон». Однако только в 2010-х годах эти сети стали основным двигателем в регионе. Благодаря благоприятному сочетанию каталитических факторов, таких как стремительный рост доступности данных и возможность использования специализированного оборудования для матричного умножения, ИНС совершили поразительную революцию, удивив мир своей способностью справляться со сложными задачами. Эта область была переименована в «Глубокое обучение», что является намеком на растущее число слоев нейронов в более глубоких сетевых архитектурах.

С «глубоким обучением», вторгшимся в нашу повседневную жизнь, многие футуристы изобрели старомодные пророчества: уникальность и восстание машин с правом Шварценеггера в его костюмах Терминатора. Но не заблуждайтесь. Вероятность того, что текущая РНК станет осознанной, равна размеру биологического нейрона.

Как ни удивительно, великая угроза искусственного интеллекта слишком хорошо воспроизводит человеческое поведение. Между прочим, воспроизведите нашу худшую часть: предрассудки. Должно быть ясно, что ИНС – это машины корреляции, а не причины и следствия. Более того, в стране, где Президент Республики не понимает, что «корреляция не обязательно подразумевает вопрос», необходимо действовать поучительно и информировать общественность о том, что в данных может быть несколько корреляций, но что Хорошая наука – это та, которая с подозрением смотрит на категорические утверждения о причинно-следственной связи. В противном случае мы были бы вынуждены признать, что расходы правительства США на науку ответственны за количество удушений и самоубийств через повешение в Соединенных Штатах.

Самым ярким примером доли населения, не понимающей разницы между корреляцией и причинно-следственной связью, является псевдонаучный восторг IPC Covid, защищающего использование хлорохина для борьбы с вирусом. Верно, что те, кто несет ответственность за драму здоровья, которую мы переживаем, действовали по незнанию: они не знают разницы между корреляцией и причиной и не понимают специфики и нюансов научного метода.

Мы подвергаемся тому же риску, когда слепо доверяем ИНС. Если мы обучим такие методы обнаружению закономерностей на разрозненных данных, сгенерированные модели будут воспроизводить различия. Классический случай несправедливости, совершенный AI, – это инструмент COMPAS (Профилирование исправительных правонарушителей для альтернативных санкций), который помог американским судам оценить вероятность преступного рецидива обвиняемых. Будет ли кто-нибудь удивлен, обнаружив, что алгоритм выделяет чернокожих людей как более склонных к повторному преступлению?

Область «справедливости в машинном обучении» получила признание в академии, служа предупреждением для всех, кто извлекает выгоду из ИИ: недостаточно, чтобы модели хорошо учились на существующих моделях в машинах. Данные – необходимо предотвратить распространение предрассудков . Стремление ИИ к справедливости только начинается, и у него есть множество возможностей для борьбы с вредными предрассудками. Могут быть разработаны модели, которые сознательно борются с ранее отмеченными смешивающими факторами. Может быть проведена работа по разработке синтетических баз данных с учетом этих факторов. Чего вы не можете сделать, так это притвориться, что предрассудков не существует. Или что это не проблема для всех нас, если машины воспроизводят их.

Во времена ультраправых правительств, которые дышат и поощряют предрассудки, ясно, что основная борьба внутри ИИ такая же, как и та, которую мы ведем ежедневно: борьба с несправедливостью и предрассудками.

*

Родриго С. Баррос – ученый-компьютерщик, получивший докторскую степень в области искусственного интеллекта от USP. Он является исследователем искусственного интеллекта в PUCRS и директором по исследованиям в Teia Labs.

Подпишитесь на информационный бюллетень Serrapilheira, чтобы следить за другими новостями института и блога Ciência Fundamental.

Back to top button