Цифровой паралич большого города: блэкаут в Сан Франциско

Сан Франциско всегда гордился своим статусом лаборатории будущего. Здесь на крутых холмах и в туманных низинах рождаются идеи, которые спустя годы становятся мировыми стандартами. Однако события минувших выходных заставили даже самых преданных сторонников прогресса содрогнуться. Масштабное отключение электроэнергии превратило технологическую столицу мира в декорации для фильма о постапокалипсисе. Но пугала не сама темнота. Пугало то, как повели себя те, кому мы доверили управление нашими дорогами. Беспилотные автомобили компании Waymo, которые еще вчера казались вершиной инженерной мысли, в один миг превратились в беспомощные металлические препятствия, заблокировав жизненно важные артерии города.

Анатомия системного коллапса

Все началось в субботу вечером, когда из за сбоя на подстанции значительная часть центральных районов города осталась без питания. В обычных условиях город продолжает жить. Водители люди инстинктивно переходят на правила проезда нерегулируемых перекрестков. Мы знаем, что если светофор не горит, нужно остановиться и пропустить того, кто приехал первым. Это базовый социальный контракт, основанный на здравом смысле и взаимном уважении. Но алгоритм Waymo не знает, что такое социальный контракт.

Как только датчики беспилотников зафиксировали отсутствие сигнала светофора, система вошла в режим критической ошибки. Для искусственного интеллекта погасший светофор это не неисправность, а неопределенность высшего порядка. Вместо того чтобы осторожно продолжить движение, десятки белых кроссоверов просто замерли там, где их застала тьма. Они заблокировали перекрестки, выезды с парковок и, что самое страшное, пути следования экстренных служб.

В районе Мишн и на оживленных улицах Сома ситуация быстро вышла из под контроля. Обычные водители, пытающиеся выбраться из обесточенного района, оказались в ловушке. Роботакси стояли неподвижно, не реагируя на сигналы клаксонов или попытки жестикуляции. Это был момент абсолютного бессилия человека перед лицом программного кода, который решил, что стоять на месте безопаснее всего, даже если эта неподвижность создает угрозу жизни окружающих.

Почему интеллект оказался бессилен

Проблема кроется в самой архитектуре обучения нейронных сетей. Компании вроде Waymo тратят миллиарды долларов на симуляции и реальные тесты, чтобы научить машины распознавать пешеходов, велосипедистов и дорожные знаки. Но в их коде заложен фундаментальный приоритет минимизации рисков для самой компании. В ситуации, когда внешние условия не соответствуют заложенной модели, машина выбирает наиболее безопасный с юридической точки зрения вариант — полную остановку.

Инженеры называют это безопасным состоянием. Однако в условиях реального мегаполиса это состояние становится агрессивным фактором. Машина не понимает, что за ней стоит пожарный расчет, спешащий на вызов в обесточенное здание. Она не слышит криков людей. Она просто ждет, когда в облаке обновится статус или когда восстановится питание сети. Мы увидели, что хваленый искусственный интеллект на самом деле является набором жестких инструкций, которые рассыпаются при столкновении с реальностью, выходящей за рамки лабораторных тестов.

Особое возмущение вызывает тот факт, что автомобили невозможно было оперативно переместить. Обычную машину можно откатить в сторону или попросить водителя освободить проезд. С беспилотниками Waymo этот номер не проходит. Без вмешательства удаленного оператора или прибытия специальной технической бригады эти машины остаются недвижимым имуществом. В субботу вечером время ожидания такого вмешательства растянулось на часы, так как количество заблокированных авто превысило возможности сервисных служб компании.

Гнев жителей и молчание корпораций

Социальные сети в Калифорнии буквально взорвались от негодования. Жители, которые и раньше с опаской относились к экспансии роботакси, теперь получили весомый аргумент. Люди задают резонный вопрос: почему мы должны делить свои улицы с устройствами, которые не способны справиться с элементарной городской проблемой? Блэкауты в Калифорнии не редкость. Мы живем в эпоху климатической нестабильности, когда нагрузка на сети растет, а инфраструктура стареет. Если каждый сбой в подаче электричества будет приводить к транспортному параличу, то наше будущее выглядит весьма мрачно.

Многие эксперты по урбанистике указывают на то, что технологические гиганты слишком спешат с коммерциализацией своих продуктов. В погоне за прибылью и долей рынка вопросы интеграции в экстренные протоколы города отошли на второй план. Произошедшее в Сан Франциско это не просто технический сбой. Это системный провал коммуникации между частным капиталом и общественной безопасностью.

Представители Waymo выступили с коротким заявлением, сославшись на беспрецедентный характер события. Они пообещали улучшить алгоритмы распознавания неисправных светофоров. Но достаточно ли этого? Доверие жителей подорвано. Когда вы находитесь в темном городе и вам нужно добраться до дома, меньше всего вы хотите столкнуться с шеренгой пустых машин, которые просто отказались ехать дальше.

Экономическая цена прогресса

Давайте взглянем на цифры. Каждый час простоя в таком мегаполисе как Сан Франциско стоит бизнесу миллионы долларов. Задержки в логистике, невозможность сотрудников вовремя добраться до рабочих мест, расходы на работу муниципальных служб по разблокировке дорог — все это ложится на плечи налогоплательщиков. При этом компании, проводящие свои испытания на наших улицах, пользуются городской инфраструктурой практически бесплатно.

Встает вопрос о справедливом распределении ответственности. Если беспилотник блокирует дорогу, должна ли компания платить штраф, соразмерный убыткам города? На данный момент законодательство Калифорнии весьма лояльно к разработчикам ИИ. Но инцидент в минувшие выходные может стать поворотным моментом. Городской совет уже готовит слушания, на которых будут обсуждаться новые правила эксплуатации автономного транспорта. Речь идет о принудительной установке систем ручного управления для экстренных служб или обязательстве иметь в каждом районе дежурные бригады, способные переместить машину за считанные минуты.

Урок для всей индустрии

События в Сан Франциско должны стать холодным душем для всей Кремниевой долины. Мы слишком увлеклись созданием умных вещей, забывая о создании устойчивых систем. Настоящий интеллект заключается не в способности распознать кошку на дороге, а в умении адаптироваться к изменяющейся среде. Человечество строило города тысячи лет, основываясь на гибкости и способности принимать решения в условиях хаоса. Пытаясь заменить человека алгоритмом, мы рискуем потерять эту гибкость.

Другие игроки рынка, такие как Tesla или Zoox, сейчас внимательно изучают ошибки Waymo. Однако проблема общая для всех. Пока беспилотники зависят от стабильности внешних систем, они остаются уязвимыми. Нам нужны технологии, которые обладают определенной степенью автономности не только в плане вождения, но и в плане принятия решений в кризисных ситуациях. Машина должна понимать, что перекрытие перекрестка это большее зло, чем проезд на неработающий светофор с соблюдением мер предосторожности.