Продолжение из Части 3…
"Права человека?
Ставки еще выше с появлением искусственного интеллекта и машинного обучения (AI/ML). На кого действительно работают наши цифровые двойники? Акционеры платформенных компаний или «алгоритмы?»
Уже сегодня есть примеры смены ролей в том, что раньше казалось безобидным использованием технологий. Всем знакомая CAPTCHA, которая была тестом Тьюринга для предотвращения сбора данных с веб-сайтов ботами и сканерами, вместо этого стала «краудсорсинговой» тренировочной площадкой AI / ML — вы замечали, сколько светофоров, пешеходных переходов и витрин вас просят проверить просто для доступа к веб-сайтам и контенту? Как вы думаете, куда идут все эти данные? Кажется случайным появление AI/ML в автономных транспортных средствах и изменение запросов CAPTCHA, не так ли?
Как насчет всех вас, пользователей Waze и Google Maps, которые чешут затылки после того, как приложения направляют вас по очень окольным и странным дорогам, которые далеки от оптимальных? Это как если бы «алгоритмы» отправляли людей-водителей собирать данные для своих собственных целей, чтобы рассчитать и нанести на карту менее посещаемые маршруты?
В этих случаях даже не наши цифровые двойники выполняют работу, а наше физическое я выполняет работу по обучению алгоритмов для платформы. С достижениями в области робототехники, протезирования и биотехнологических улучшений, возможных с помощью систем, связанных с CRISPR, таких как Cas9 и Cpf1, кому принадлежат физический труд и данные, которые генерируются этими устройствами и процедурами? Что происходит, когда наши цифровые двойники превращаются в физические проявления, такие как роботы-агенты или физические суррогаты? Когда биологический человек считается не человеком после последовательных изменений его исходной биологической формы? Обладают ли они одинаковыми универсальными правами человека?
Многие теперь верят, что Сингулярность близка и что разумная жизнь не будет ограничена человеческими существами. Станем ли мы господином или рабом с появлением разумного ИИ? Реализуем ли мы человеческие права на разумный ИИ/МО? Мы даже не воплотили человеческие права в отношении наших цифровых двойников; тем не менее, технический прогресс продолжает опережать нашу человеческую и общественную способность адаптировать наши правовые и моральные рамки.
Опасения, подобные этим, выдвигают на первый план некоторые продолжающиеся дебаты даже в ИИ-сообществе вокруг черного ящика природы ИИ и объяснимости». Как мы оцениваем, действительно ли алгоритм ИИ выполняет то, что мы от него требуем? Должны ли мы доверять этому? Хотели бы вы, чтобы алгоритм ИИ судил о вашей судьбе, как подчеркивает Лоуренс Лессиг ниже? Законно ли вообще, чтобы ИИ судил человека и принимал решения от имени людей? Кого мы привлекаем к ответственности в случае сбоев автономного ИИ, например, когда ваша Tesla в автономном режиме кого-то сбивает? Мэтт Бартлетт пишет здесь о некоторых из этих проблем, но что происходит, когда вы даже не можете определить, кто является владельцем? Со всеми поддельными профилями известных людей уже достаточно сложно выяснить, является ли настоящий Илон Маск Илоном Маском или Теслой Илона Маска на Medium!
Даже видные исследователи ИИ, такие как Али Рахими и Бен Рехт, задаются более фундаментальными вопросами о том, является ли ИИ алхимией или истинной наукой.
Без быстрого распространения дискуссии об основных основополагающих правах, которые мы адаптировали и воплотили в нашей цивилизации, на наше цифровое существование, не существует общей основы, на которой мы могли бы основываться в любом обсуждении моральных и этических дилемм, с которыми мы сейчас сталкиваемся как общество. В дебатах нет конкретных «правильных» или «неправильных» ответов, но, как показала история, нам необходимо способствовать прозрачности и просвещению по фундаментальным вопросам и вести борьбу за лучший мир, в котором признаются технологии и данные. об их пользе и вреде.
