Showdown: Лучше сегодня
ОБМЕН МНЕНИЯМИ!
Автоматическая-стенограмма, для представления S&P и NFSC.
EP:66:12: “Лучше сегодня”
Добро пожаловать на передачу «Обмен мнениями», дискуссионное шоу посвященное самым насущным проблемам Империи. С вами Эрия Квинт. Чуть позже мы коснемся недавних ожесточенных столкновений между частными лицами на Yela и Crusader Security, зададим вопрос не зашла ли корпоративная полиция слишком далеко, или же она наконец, активизировалась для решения проблемы, которая игнорировалась в течение долгого времени. Даже слишком долгого времени.
Во-первых, прошел целый год с тех пор как Лейлани Аддисон стала Императором Объединенной Земной Империи, и не все ее сторонники довольны достигнутым прогрессом. Несмотря на свое предвыборное обещание увеличить финансирование исследований в области искусственного интеллекта, она до сих пор не предприняла конкретных действий. Недавно предложенный ею закон «Лучше сегодня» ослабит многие ограничения, действующие в отношении исследований ИИ, и откроет двери для получения государственного финансирования. Одни новый закон приветствуют, другие не уверены, что это хорошая – или безопасная затея.
Вместо со мной сегодня Юна Глидуэлл, инженер и защитник искусственного интеллекта, и Махиром Лемондом, автором книги «2044: Инцидент с Леммингом«.
Юна Глидуэлл (ЮГ) — «Привет Эрия, рада что попала сюда»
Махир Лемонд (МЛ) — «Привет»
Эрия Квинт (ЭК) — «Как вы относитесь к предложению Аддисон? Я начну с тебя, Юна.»
ЮГ — «Я имею в виду, само собой разумеется, я вне себя от возбуждения. С тех пор, как Аддисон вступила в должность, прошло так много времени, что мы с коллегами начали терять надежду. Мы думали что она забыла, о том что выиграла выборы благодаря своему обещанию светлого будущего.»
ЭК — «»Светлого будущего». Будьте добры поподробнее.»
ЮГ — «Слишком долго человечество тормозило собственный прогресс из-за нашего иррационального страха перед искусственным интеллектом. С тех пор, как нам удавалось добиться сколько-нибудь значительного прогресса в исследованиях ИИ прошло много сотен лет, и мне кажется в связи с этим, мы отстали от шианцев в этих технологиях как минимум на столетие.»
ЭК — «Разве шианцы разработали настоящий ИИ? Если это так, то это новость для меня»
ЮГ — (смеётся) «[смеется] Ну, не то чтобы мы знаем это наверняка. Но именно поэтому так важно, чтобы мы смогли создать его первыми. Если мы создадим что-то, чего еще нет даже у шианцев, мы сможем значительно продвинуться в преодолении технологического разрыва.»
ЭК — «А вы Махир? Что вы думаете об этом законе?»
МЛ — «Меня это глубоко беспокоит. Мы давно решили, что не стоит рисковать из-за ИИ, и по очень веским, тщательно задокументированным и прежде всего смертельным причинам. Это выходит далеко за рамки автокатастрофы Tokyo Lemming Car в 2044 году, в результате которой погибло 12 456 человек и было получено бесчисленное количество травм. Каждый раз, когда мы создавали ИИ, нам от этого становилось только хуже. Трагедия на Марсе в 2125 году, взрыв Cerita Tower в 2298 году, инцидент Horus в 2696 году: все это вызвано благими, но в конечном итоге опасными экспериментами с ИИ.»
ЮГ — «Все эти случаи были ужасными трагедиями; Я не буду с этим спорить. Но у ранних технологий всегда есть проблемы, которые решаются в последующих поколениях.»
МЛ — «Потеря человеческой жизни немного серьезнее, чем «просто проблема», мисс Глидуэлл.»
ЮГ — «Я сказала, что это ужасные трагедии. Трагедии которых мы можем избежать, если перестанем бояться прогресса. Сегодня мы способны создавать защитные устройства, о которых наши предки не могли и мечтать. Поверьте мне, никто так много не думает о потенциальных последствиях плохо сделанного и плохо управляемого искусственного интеллекта, как люди которые занимаются его исследованием.»
МЛ — «Верно, я согласен с вами, в некоторых областях кажется, что сейчас всё спокойно. Но так устроен прогресс. Если вы посмотрите на человеческую историю, то увидите что были периоды быстрых изменений, периоды нормального функционирования и периоды упадка. Некоторые технологии не могут быть использованы в полной мере до тех пор, пока не будут обнаружены как таковые. Взглянем на силу пара: она была создана древними людьми в 1 веке, но не могла быть полностью реализована до 1700-х годов из-за нехватки ресурсов. И если на то пошло, посмотрите на корабли для морей и океанов, их дизайн не нуждался в существенном обновлении даже после того как люди высадились на Луне. Зачем чинить то, что не сломано?»
ЮГ — «Зачем довольствоваться тем что есть, если можно получить то, что работает лучше? Как вы верно сказали, бывают периоды когда всё практически стоит на месте, а затем периоды взрывных изменений, например когда обнаружат новый ресурс. ИИ может стать для нас этим самым ресурсом. Независимо от того, насколько творчески и проницательны люди, наш разум ограничен. ИИ объединенный в сеть с другими ИИ будет обладать сверхчеловеческими способностями. Представьте каким может быть будущее проектирования космических кораблей, если мы задействуем хотя бы несколько ИИ для создания улучшенного корабля.»
МЛ — «У нас уже есть сложные алгоритмы и мощная технология машинного обучения, которая выполняет именно то о чём вы говорите. Дроны следующего поколения, разработанные армией еще в 47-м, изначально были спроектированы компьютером, который получал данные о птичьих скелетах. Нам не нужен искусственный интеллект для создания новых технологий. Доказательства говорят нам что …»
ЮГ — «Я не утверждаю, что риска нет, я просто говорю…»
МЛ — «Я не закончил. Доказательства показывают, что когда используется ИИ, люди умирают.»
ЮГ — «Вы намеренно искажаете мои слова. Я неоднократно говорила, что мы принимаем во внимание гипотетическую опасность и сделаем защиту человеческих жизней нашим главным приоритетом.»
МЛ — «Опасность далеко не гипотетическая, и вы это знаете. Вам просто все равно.»
ЭК — «Давайте на мгновение отвлечемся от вопроса о человеческих жизнях. Юна, не могли бы вы рассказать мне больше о проблемах, которые по вашему мнению может помочь решить искусственный интеллект?»
ЮГ — «Спасибо, Эрия. Когда у нас будет ИИ, солдатам не нужно будет воевать. Смертность в операционных резко снизится. Дорожно-транспортные происшествия останутся в прошлом. Корабли смогут по-настоящему самостоятельно летать. Я мог бы продолжать, но это будущее, в котором мы себе отказываем. Это недостижимо только потому, что мы боимся сделать следующие шаги. Закон «Лучше сегодня» — это мягкий толчок, который нам нужен, чтобы поднять нас с начального уровня.»
МЛ — «Хорошо. Давайте забудем прошлое и представим на секунду, что неисправный или криминальный ИИ не может убивать людей. Вы только что описали мир, в котором жертвы войны, ранняя смерть и бедность искоренены или настолько близки к искоренению, насколько это возможно. Я всё правильно понял?»
ЮГ — «Не совсем. Но у многого из этого определенно есть потенциал сделать мир лучше.»
МЛ — «И лучший способ сделать это – создать думающих, чувствующих рабов, которые будут решать за нас наши проблемы?»
ЮГ — «Простите?»
ЭК — «Прежде чем мы раскроем ответ на этот вопрос, нам нужно сделать короткую рекламную паузу. Мы скоро вернемся к окончанию увлекательной дискуссии Махира Лемонда и Юны Глидуэлл. Затем мы углубимся в ситуацию на Yela. Сможет ли Crusader Security поддерживать порядок на луне, проще говоря там где его нет? Не переключайтесь.»
