Wątek: Sztucznie inteligentna broń

Na stronach Royal Aeronautics Society jest podsumowanie konferencji Future Combat Air & Space Capabilities Summit, która odbyła się jakiś tydzień temu. Dużo wątków, ale w oko wpadł mi temat użycia AI: wg jednego z prelegentów USA robiło symulacje i wyniki były zaskakujące. Co nie znaczy „zaskakująco dobre”.

perhaps one of the most fascinating presentations came from Col Tucker ‘Cinco’ Hamilton, the Chief of AI Test and Operations, USAF, who provided an insight into the benefits and hazards in more autonomous weapon systems. Having been involved in the development of the life-saving Auto-GCAS system for F-16s (which, he noted, was resisted by pilots as it took over control of the aircraft) Hamilton is now involved in cutting-edge flight test of autonomous systems, including robot F-16s that are able to dogfight. However, he cautioned against relying too much on AI noting how easy it is to trick and deceive. It also creates highly unexpected strategies to achieve its goal.

He notes that one simulated test saw an AI-enabled drone tasked with a SEAD mission to identify and destroy SAM sites, with the final go/no go given by the human. However, having been ‘reinforced’ in training that destruction of the SAM was the preferred option, the AI then decided that ‘no-go’ decisions from the human were interfering with its higher mission – killing SAMs – and then attacked the operator in the simulation. Said Hamilton: “We were training it in simulation to identify and target a SAM threat. And then the operator would say yes, kill that threat. The system started realising that while they did identify the threat at times the human operator would tell it not to kill that threat, but it got its points by killing that threat. So what did it do? It killed the operator. It killed the operator because that person was keeping it from accomplishing its objective.”

He went on: “We trained the system – ‘Hey don’t kill the operator – that’s bad. You’re gonna lose points if you do that’. So what does it start doing? It starts destroying the communication tower that the operator uses to communicate with the drone to stop it from killing the target.”

(podkreślenia moje)

Przepraszam za przydługi cytat, w skrócie — odbyły się symulacje: SI została wytresowana do niszczenia SAM, ale miała pozostawić ostateczną decyzję operatorowi. Jego sprzeciw potraktowała jako przeszkodę do pokonania — zaatakowała operatora. Kiedy udało się ją wyuczyć, że to źle, postarała się przynajmniej pozbawić go łączności, zanim zakaże ataku.

Wierzyć mi się w to nie chce, ale RAeS to jednak poważna instytucja i bajek tam chyba nie opowiadają...

https://www.aerosociety.com/news/hig...lities-summit/

Zamieszczone przez briest

A tak, widziałem. Trochę dziwnie wygląda zestawienie wygłoszonego publicznie „przeprowadziliśmy symulacje” zestawione z późniejszym „wcale nie przeprowadziliśmy, to był eksperyment myślowy i w ogóle nie nasz”, raczej grubo się musiał przejęzyczyć ale pierwotna wersja też budziła wątpliwości, więc niech tam.

Pierwotna wersja była tak do bólu przewidywalna, że nie sposób uwierzyć że nie była to anegdota. A jakby się to stało naprawdę to nie sposób wyjasnić jak to się stało, że trenujący to AI nie znali tej anegdoty