Bújócskázik a robot

2010.09.13. 06:00 ferenck

A katona hiába üldözi a robotot, a gép elterelő nyomokat hagyott maga mögött, majd kámforrá vált. Átverte és elrejtőzött. Nem a moziban ülünk, hanem valódi közeljövő-forgatókönyvet olvasunk. De hogyan tudja mindezt kivitelezni egy buta masina?

Alan R. Wagner és Ronald C. Arkin, a Georgia Institute of Technology két kutatója a negyedévente megjelenő International Journal of Social Robotics szeptemberi számában publikált 22 oldalas, kísérleteken alapuló tanulmánya részletes választ ad a kérdésre. Úttörő munkát végeztek: ennyire behatóan még senki nem foglalkozott a komoly etikai-szabályozási kérdéseket is felvető témakörrel, robotok megtévesztő tevékenységével.

„A legtöbb robot valószínűleg ritkán fog gépeket és embereket megtéveszteni, viszont, mivel a lehetséges eredményeket illetően, előnyösebb helyzetben lesz az, amelyik be tudja csapni a másikat, fontos, hogy interakciós készletének része legyen ez az adottság is” – írja Wagner. 

A kivitelezéshez egyrészt algoritmusokat fejlesztettek, amelyek lehetővé teszik, hogy a robot eldöntse, szükséges-e megtéveszteni embert, vagy gépet, másrészt a két kutató technikai megoldásai segítséget nyújtanak az optimálisnak tűnő átverési stratégia kiválasztásához. Először arra tanították meg, hogy olyan szituációkat ismerjen fel, amikor kamatoztatnia kell különleges képességét. Egy-egy szituáció két feltétel alapján sorolható ebbe a kategóriába: ha a kereső és keresett konfliktusban állnak egymással, és ha az utóbbinak haszna származik a másik becsapásából. A megtévesztés szintjét a kölcsönös függőség és a játékelmélet alapján, algoritmusokkal értékelhető ki.

A kutatók húsz „bújócska” kísérletet végeztek két autonóm (egy fekete és egy piros) robottal: a három búvóhelyhez vezető potenciális útvonalak mentén jól felismerhető színes markereket helyeztek el. A menekülő fekete robot véletlenszerűen választotta ki, hova menjen. A (félrevezető) kommunikációs célt is szolgáló markereken túljutva, leverte azokat, majd az utolsó után megváltoztatta eredeti tervét, és a két maradék helyszín egyike mellett döntött. Piros üldözője a markerek állapota, hiányuk vagy meglétük alapján tájékozódott. A megtévesztés a tesztek 75 százalékában sikerült, ha pedig nem, akkor a bujdosó rosszul, vagy rossz markereket vert le. Az eredmény ugyan nem 100 százalék, de bizonyságot nyert: robotok is képesek átverni egymást.     

Wagner és Arkin egyedi esetek helyett általánosan kezelték a témát, javaslataik (elvileg) robot-ember és robot-robot interakcióra egyaránt alkalmazhatók, például katonai, keresési és mentési célokra – sem a robothoz, sem a nála lévő fontos információhoz nem fér hozzá az ellenség, jobban együtt tud működni a romos terepen talált rettegő áldozattal stb. Kérdés, hogy ezekben a dinamikusan változó, valós környezetekben mennyire működik, működik-e egyáltalán az átejtés.

5 komment

Címkék: robotok mesterséges intelligencia

A bejegyzés trackback címe:

https://agens.blog.hu/api/trackback/id/tr862291475

Kommentek:

A hozzászólások a vonatkozó jogszabályok  értelmében felhasználói tartalomnak minősülnek, értük a szolgáltatás technikai  üzemeltetője semmilyen felelősséget nem vállal, azokat nem ellenőrzi. Kifogás esetén forduljon a blog szerkesztőjéhez. Részletek a  Felhasználási feltételekben és az adatvédelmi tájékoztatóban.

pannonfunk 2010.09.13. 13:20:08

Van nektek (a blognak) mission statementje? Most, hogy így a harmadik posztotok került ki index címlapra (vagy több, én háromba futottam bele), kezdem nem érteni, hogy mi is a célotok ezzel a bloggal? Komolyan akartok foglalkozni a témával vagy csak bohócot akartok csinálni magatokból? Mert ezek a hevenyészett fordítások elég szánalmasak. Nagyjából annyi jön le a posztból, hogy vannak tudósok, okos dolgokat csinálnak komoly tudományos eszköztárat bevetve. Nesze semmi, fogd meg jól. Valami elképzelés, rövid leírás a játékelméleti modellről? Lehetne akár egy boxba tenni, aki el akarja olvasni. Komolyan felmerül a poszt olvasójában, hogy ti egyáltalán értitek-e azt, amit ide leírtok, vagy csak brahiból lefordítatok valamit.

ferenck · http://agens.blog.hu/ 2010.09.13. 15:48:32

@pannonfunk: koszonjuk az eszrevetelt,es mivel hosszu evek ota munka- es hobbiszinten egyarant ezzel a temakorrel (mesterseges intelligencia es hatarteruletei) foglalkozunk, megnyugtatlak: van fogalmunk az egeszrol. bohocnak altalaban azokat tartom,akik soha semmihez semmi konstruktivat nem szolnak hozza,hanem mindenhol csak azert jelennek meg,h fikkazzanak. nyugodtan tegyed,de epitobb jellegu lenne,ha pl. temajavaslatokkal allnal elo,vagy kifejtened,h miert nem ertesz egyet a leirtakkal. amikor vki roviden ismertet egy projektet,kiserletet stb. torvenyszeruen elolvassa, felhasznalja, a sajat ismeretrendszerebe helyezi az arra vonatkozo idegen nyelvu anyagokat. nem mi kiserletezunk ezekkel a robotokkal,nem sajat fejlesztesekrol irunk.

pannonfunk 2010.09.14. 11:20:06

@ferenck: Szerintem eléggé konkrétan megírtam, hogy szívesen látnék egy kis boxot, amelyben le van írva a játékelméleti modell lényege. Szerintem ez konstruktív: teljesen konkrét, és építő jellegű javaslat, hogy a bulvár-szintű megfogalmazás mellett legyen egy komolyabb leírás, hogy akit érdekel, meg tudja nézni, hogy miről szól ez az egész.

Szóval, légyszi módosítsad a posztot, amelyben leírod a játékelméleti modellt, de ha nem fűlik hozzá a fogad, akkor egy kommentben rittyentsed ide. Mert bármilyen hihetetlen, de tényleg érdekel.

ferenck · http://agens.blog.hu/ 2010.09.14. 16:04:28

@pannonfunk: koszi,igy tenyleg konstruktiv a komment. elegge rohanasban vagyok,ugyhogy inkabb copypaste-elem a belinkelt tanulmany 1-2 idevago reszet.

www.springerlink.com/content/p8085451p55u6141/fulltext.pdf

"Deception has a long and deep history with respect to the study of intelligent systems. Biologists and psychologists argue that deception is ubiquitous within the animal kingdom
and represents an evolutionary advantage for the deceiver."

"Game theory has been extensively used to explore the phenomena of deception. As a branch of applied mathematics,
game theory focuses on the formal consideration of strategic interactions, such as the existence of equilibriums and economic applications. Signaling games, for example, explore
deception by allowing each individual to send signals relating to their underlying type. Costly versus cost-free
signaling has been used to determine the conditions that foster honesty."

The following situations were analyzed:
• The Cooperative situation describes a social situation in which both individuals interact cooperatively in order to receive maximal outcomes. Although often encountered in normative interpersonal interactions, because the outcomes for both individuals correspond, these situations seldom involve deception. For example, deception among teammates is rarely employed as it is counter to the dyad’s
mutual goals.
• In contrast to the Cooperative Situation, the Competitive situation does warrant the use of deception. This situation is again an example of a k-sum game in which gains by one individual are losses for the other individual. Hence, deception in interpersonal Competitive situations is common. Deception among competitors, for example, is extremely common and some games, such as poker, are even
founded on this principle.
• The Trust Situation describes a situation in which mutual cooperation is in the best interests of both individuals. Yet, if one individual does not cooperate then mutual non-cooperation is in both individuals best interest. Interpersonal
examples of Trust Situations include lending a friend money or a valuable asset. This situation does not
demand deception because again both individuals’ mutual interests are aligned.
• The Prisoner’s Dilemma is perhaps the most extensively studied of all social situations. In this situation, both
individuals depend upon one another and are also in conflict. These conditions make the Prisoner’s Dilemma a strong candidate for deception. It is in both individuals best interest to influence that action selection of the other individual. As detailed by Axelrod, Prisoner’s Dilemma situations include military and police enforcement situations involving actual interpersonal interaction that often
do entail deception.
• The Chicken situation is a prototypical social situation encountered by people. In this situation each interacting individual chooses between safe actions with intermediate outcomes or more risky actions with more middling outcomes. An example might be the negotiation of a contract for a home or some other purchase. Whether or not this situation warrants deception depends on the relative outcome value of the safe actions compared to the risky actions. If the value of the risky action is significantly greater then the value of the safe actions then deception will be warranted."

ajanlom meg a 9. oldal tablazatat es a 11. oldal 2 abrajat

Helem 2010.09.16. 22:37:47

Sziasztok!

Én még nem blogoltam. Csak véletlenül vetődtem errefelé.

Ezt láttátok. Ez az én oldalam.
helemf.freeweb.hu/