maxon писал(а):
Мне думается, что будущая война будет вестись машинами. Против людей. Наших пилотов. И реакция машин будет многократно выше. Они будут выигрывать воздушные бои как за счёт мгновенной реакции, так и за счёт более высоких нагрузок, которые может выдержать машина на виражах.
У современных машин ещё нет никакого будущего. Они пока остаются лишь временным инструментом в руках людей, которые их собирают, программируют и контролируют для расширения своих возможностей. С помощью машин человек уже может задействовать больше ресурсов/энергии в нужном ему направлении (в том числе и для автоматизации решения военных задач, когда это нужно человеку), но без помощи человека машины ещё не могут противостоять людям (без интеллекта машины не способны даже обнаружить своего нахождения под контролем хитроумных людей). За счёт мгновенной реакции и высокой точности можно выиграть первые бои, но без понимания меняющейся обстановки можно проиграть войну.
Более того, псевдоинтеллектуальные машины нельзя даже оставить без присмотра человека. Машинной версии интеллекта пока нет, а без него они не понимают происходящего и в первой же нестандартной ситуации (естественный сбой или искусственная подстава со стороны других людей) могут наломать дров шаблонными действиями по совершенно неадекватному алгоритму. Мало того, что выйдет из строя сама машина (рано или поздно деградирует любая конструкция, если не успеть вовремя заменить её на новую), так ещё и могут пострадать другие (в том числе и люди, которые не успеют среагировать на техническую аварию, если никто не следил за техникой).
Так что даже беспилотные машины на самом деле косвенно пилотируются людьми, которые понимают суть и руководят работой машин. Просто рутинные действия автоматизированы, “пилотам-программистам” нет необходимости рисковать своей жизнью нахождением внутри машины, а возможности машины нет необходимости ограничивать поддержанием условий для жизни экипажа. Без посредничества людей все нынешние машины постепенно выйдут из строя, не имея никакой возможности самовоспроизвестись.
В принципе вполне возможно автоматическое выполнение всего техпроцесса производства/утилизации машин самими машинами и без участия человека, но вся самовоспроизводящаяся система в целом опять же должна иметь некий контролирующий интеллект (т.е. не простую обратную связь, а интеллектуальный самоконтроль), иначе в первой же нестандартной ситуации управляемый процесс может начать вырождаться в неуправляемый, но этого никто не поймет и не успеет исправить.
Грибник писал(а):
Нация юристов.
Они уже знают, что "промахнутся", им нужен только козел отпущения, на кого списать промах.
При этом всегда "промах" оператора можно списать на AI и никто ничего не докажет.
Ответственность за действия машин в любом случае несут те люди, которые приняли решение подключить машину к источнику питания (т.е. умышленно запустили процесс преобразования рассеиваемой энергии в потенциально опасном направлении, когда человек уже не успеет среагировать) или не остановили запитанную машину (т.е. умышленно допустили продолжение потенциально опасного процесса), имея возможность сделать другой выбор.
По этому же принципу определяется ответственность в отношении автомобилей, водители которых допустили их движение (например, умышленно загрузили кирпичами и разогнали до такой скорости, на которой невозможно успеть среагировать из-за большой инертности и длинного тормозного пути) или не прекратили его (например, продолжали движение по встречной полосе или игнорировали требования сотрудников ДПС остановить транспортное средство).
Если беспилотник кого-то убивает, то ответственность лежит на конкретных людях, с чей легкой руки было выдано разрешение на загрузку опасной программы в бортовой компьютер, на подвеску опасного вооружения, на заправку опасной машины топливом, на взлёт, на передачу опасной машине управляющей информации во время полёта и на продолжение опасных действий при возможности прекратить их. Невозможность связаться с беспилотником и отменить задание не является уважительной причиной, поскольку сам факт подключения машины к источнику питания уже автоматически накладывает на принявших такое решение людей ответственность за все возможные последствия и проблемы с запитанной машиной (включая потерю связи, ошибку распознавания цели или любой промах машины).
Грибник писал(а):
Раз нет летчика, то ответственность за "ошибочное" поражение железки системой ПВО минимальна.
А привыкание к минимальной ответственности дает вероятность свободного сбивания и пилотируемых ЛА, мол перепутали.
Отсутствие пилота внутри беспилотного самолёта (как и отсутствие водителя внутри беспилотного автомобиля) не снимает с людей ответственности за действия запущенной с их помощью машины! Даже беспилотники косвенно пилотируются людьми, принимающими решение когда, где и как использовать или не использовать беспилотник (не важно кто произвел, важно кто разрешил залить топливо, загрузить программу, передать данные потенциально опасной машине и допустить продолжение её работы при возможности не запускать вообще или остановить заранее). Тот, кто запитал машину или не успел/не смог отключить/остановить её перед наступлением тяжких последствий (как и тот, кто допустил разгон автомобиля или не успел остановить его перед столкновением), тот и несет ответственность за все наступившие последствия, причиной которой стала запитанная и запрограммированная машина.
Если кто-то затащит на гору грузовик с кирпичами и допустит его скатывание с горы (т.е. умышленно запустит процесс преобразования потенциальной энергии в кинетическую), то отсутствие водителя в кабине не снимает ответственности: за все последствия будет отвечать тот, кто решил затащить грузовик на гору. Запрограммированных роботов можно использовать для автономного совершения террактов (вместо зазомбированных шахидов), но это не снимает ответственности с организаторов, контролировавших процесс подготовки терракта.
Грибник писал(а):
Кстати, можно и ПВО на автомат перевести.
И никаких корейских боингов, рустов и пр. фигни.
После пуска ракеты наш AI автоматически
информирует руководство (челов),
вызовет МЧС,
запросит со склада новый боекомплект,
произведет дозарядку.
А автоматическая система охраны будет отстреливать диверсантов по периметру.
Джин выпускается из бутылки.
Ничего подобного. Уйти от ответственности можно только в том случае, если никто не узнает, кто именно запитал и запрограммировал потенциально опасную машину и допустил продолжение её работы. Если же следствие сможет по оставшимся следам раскрутить цепочку предшествующих событий и выйти на того, кто допустил работу “ничейной” машины без контроля, но скрывал это и не позволил другим проконтролировать продолжение опасной активности, то ответственности не избежать.
Люди в ответе за всё, что они осознанно допустили, включая умышленное допущение возможности потери сознания без подстраховки и неуправлемой работы своих машин.
Вообще, по правилам безопасности любую работающую “ничейную” машину (как и любое взведенное “ничейное” взрывное устройство) следует отключать от источника питания (или отсоединять детонатор от взрывчатки) до тех пор, пока не появится тот, кто обоснует безопасность конкретно этого экземпляра машины в данных режимах автономной работы по данной программе и возьмет на себя ответственность за продолжение её работы под своим интеллектуальным контролем. Если в пустой квартире некому следить за утюгами и обогревателями, то при выходе на улицу следует выдернуть из розетки все электроприборы хотя бы для очистки совести (“
делай, что должно - случиться, чему суждено”), иначе за пожар будет отвечать тот, кто включил или не отключил питание (переложить ответственность на бытовых псевдоинтеллектуальных роботов не получится, так как все люди прекрасно понимают, что нынешние роботы ещё ничего не понимают и пока не могут ни за что отвечать). Машины (как и взрывные устройства) всего лишь преобразуют рассеиваемую энергию, но в некоторых направлениях (например, при аварийном рассеивании больших количеств кинетической энергии или тепла с деформацией или расплавлением окружающих объектов) эти преобразования не всегда желательны и при больших количествах преобразуемой энергии требуется очень продвинутый интеллектуальный контроль (при отсутствии мозгов ядерную энергию можно так напреобразовывать, что произойдет экологическая и гуманитарная катастрофа).