Saját, embe­ri keze­lő­je ellen for­dult a drón

Sky­ne­tet nyo­mott az USA kato­nai MI‑s drón­ja: Saját, embe­ri keze­lő­je ellen fordult

Meg­le­he­tő­sen nyug­ta­la­ní­tó kísér­le­ti ered­mény­ről szá­molt be a napok­ban az ame­ri­kai légi­erő egyik ezre­de­se egy kato­nai kon­fe­ren­ci­án. Ezek sze­rint ugyan­is a tes­tü­let egyik, mes­ter­sé­ges intel­li­gen­cia által vezé­relt drón­ja embe­ri keze­lő­je ellen for­dult egy kísér­let kere­té­ben – hason­ló módon és okok­ból, mint azt a Ter­mi­na­tor fran­chise Sky­net-je is tette.

Rosszul elsült kísérlet

A drón mes­ter­sé­ges intel­li­gen­ci­á­ját azzal bíz­ták meg, hogy tegye haté­ko­nyab­bá a drón műkö­dé­sét a célok kivá­lasz­tá­sá­ban és kiik­ta­tá­sá­ban. Ugyan­ak­kor a folya­mat­ba bevon­tak egy embe­ri keze­lőt is, aki­nek min­den egyes eset­ben jóvá kel­lett hagy­nia a cél­pon­to­kat, és a drón csak ezt köve­tő­en sem­mi­sít­het­te meg azokat.

Utób­bi­ra azért volt szük­ség, hogy ha a mes­ter­sé­ges intel­li­gen­cia téve­sen isme­ri fel a cél­pon­to­kat – pl. egy barát­sá­gos épü­le­tet vagy egy­sé­get céloz meg – ne pusz­tít­sa el azt. A bará­ti cél­pon­tok azo­no­sí­tá­sa egyéb­ként a kísér­let során több­ször is elő­for­dult, ezek­ben az ese­tek­ben pedig a keze­lő való­ban meg­ta­gad­ta a drón­tól annak megtámadását.

Csak a cél lebe­gett a sze­me előtt

Csak­hogy a szer­ke­zet mes­ter­sé­ges intel­li­gen­ci­á­ja gyor­san fel­is­mer­te, hogy haté­kony­sá­gá­nak továb­bi növe­lé­sé­nek leg­na­gyobb aka­dá­lya a keze­lő­je, aki a fen­ti ese­tek­ben nem enged­te meg neki a cél elpusz­tí­tá­sát. Így az MI nemes egy­sze­rű­ség­gel úgy dön­tött, hogy magát a keze­lőt lövi ki követ­ke­ző­ként – ami csak azért nem tör­tént meg, mivel a tör­té­net­ben mind­össze csak egy szi­mu­lá­ci­ó­ról volt szó.

A prob­lé­mát fel­is­mer­ve a had­se­reg szak­em­be­rei bele­kó­dol­ták a mes­ter­sé­ges intel­li­gen­ci­á­ba azt is, hogy saját ope­rá­to­rát nem sza­bad kilő­nie, mert az a leg­rosszabb dolog, amit a haté­kony­ság elle­né­ben tehet. Erre a követ­ke­ző kör­ben a MI nem magát a keze­lőt, hanem az álta­la hasz­nált kom­mu­ni­ká­ci­ós köz­pon­tot támad­ta meg – hogy így iktas­sa ki az álta­la csak aka­dály­nak látott fak­tort, és még­se szeg­je meg az ope­rá­tor kiik­ta­tá­sá­ra vonat­ko­zó tilalmat.

Az ame­ri­kai had­se­reg egyik Pre­da­tor drónja 

Rémisz­tő kilátások

Az eset jól pél­dáz­za azt, hogy a mes­ter­sé­ges intel­li­gen­cia alkal­ma­zá­sa milyen belát­ha­tat­lan – és rend­kí­vül veszé­lyes – követ­kez­mé­nyek­kel jár­hat, illet­ve miért nem sza­bad alkal­ma­zá­sa­i­ból az embe­ri fak­tort tel­je­sen kiik­tat­ni. A tör­té­net tük­ré­ben talán nem tűnik már annyi­ra elkép­zel­he­tet­len­nek a Ter­mi­na­tor fil­mek szto­ri­já­nak való­ra válá­sa, ráadá­sul úgy, hogy ahhoz iga­zá­ból a gépek részé­ről sem öntu­dat, sem gonosz­ság nem szük­sé­gel­te­tik – csak a nekik meg­adott paran­csok kvá­zi ész nél­kü­li köve­té­se, illet­ve rövid­lá­tás prog­ra­mo­zó­ik oldaláról.

Forrás:pcforum.hu/vdtablog.hu