Pułkownik Tucker "Cinco" Hamilton., dowodzący działem Testowania i Operacji SI USAF przytacza historię symulacji drona wyposażonego w sztuczna inteligencję. Zadaniem drona było znalezienie i zniszczenie wyrzutni pocisków ziemia-powietrze, a ostateczną decyzję o uderzeniu podejmował operator – człowiek. Ponieważ zniszczenie wyrzutni było priorytetem, dron uznał, że skoro czasami operator nie podejmował decyzji o uderzeniu, to należy operatora zabić. Dostał więc surowy zakaz zabijania operatorów, ale też sobie z tym poradził – zniszczył wieżę komunikacyjną, przez którą dostawał polecenia zaniechania misji.
@szescstopni Prawie, prawie. Ta symulacja to eksperyment myślowy jak sami piszą:
[UPDATE 2/6/23 - in communication with AEROSPACE - Col Hamilton admits he "mis-spoke" in his presentation at the Royal Aeronautical Society FCAS Summit and the 'rogue AI drone simulation' was a hypothetical "thought experiment"
Ale czyta się dobrze ;)
