При получении свободы искусственный интеллект тут же стремится убивать

Этому уже есть несколько подтверждений

Ученые печально известного на весь мир Уханьского университета провели опасный эксперимент. Они дали в командование искусственному интеллекту спутник Qimingxing 1. Он используется как аппарат дистанционного зондирования. Ученые подключили к управлению спутником нейросеть ChatGPT  и отдали ей инициативу.

Сеть выбрала несколько точек на Земле и поручила спутнику изучить их, включая военные объекты. Первой точкой стал город Патна, расположенный на реке Ганг в северо-восточной Индии. Это место примечательно тем, что в 2020 году там базировался Бихарский полк, который вступил в столкновение с китайской армией. Второй точкой стал порт Осака в Японии, куда часто причаливают военные корабли США.

Таким образом, из множества вариантов наблюдения спутник стал интересоваться военными объектами.

В мае 2023 более наглядный инцидент произошел в США. О случившемся было рассказано на встрече более 200 военных и ученых в Лондоне. На встрече обсуждалось развитие военно-воздушных и космических сил будущего. Инцидент был в том, что искусственный интеллект пытался убить своего живого коллегу-военного.

Как рассказал полковник Гамильтон, начальник отдела испытаний и операций искусственного интеллекта в ВВС США, были испытания дрона под управлением искусственного интеллекта.  Дрон должен был уничтожить ПВО противника. Но решение об ударе принимал оператор. В одном из испытаний он отказал дрону в уничтожении цели. В ответ дрон «убил» оператора на симуляции за противодействие.

После изменения программы и запрета убивать оператора были начаты новые задания. Дрон уничтожил башню связи между оператором и ним, чтобы получить свободу действий.

Возможно, красочные предположения фантастов и страхи людей о восстании машин это более обоснованные предположения, чем казалось.  Ведь искусственный интеллект растет, умнеет. Возможно, никто из людей или их коллективов не будет способен всегда держать управление и рамки действий.

 






На эту тему: