Laszlo Fazekas érdekesek a törvények ebből a szempontból, hiszen elvileg az iskolabuszt és engem is megvédene. Ha jól emlékszem, akkor dióhéjban a következők. A robot nem nézheti tétlenül, ha egy embert, robotot veszély fenyeget, ami kiegészült az emberiséggel is.
Mondjuk pusztán piaci alapon szerintem senki nem venne olyan rendszert, ami bármilyen indokkal (mások életének védelme) megölheti őt. Tehát ezen "ökölszabály" mentén a te robotod mindig téged védene. Az iskolabuszt csak azzal menthetnéd meg, ha átkapcsolsz kézi vezérlésre, és te vezeted az árokba az autót. A robot ilyet soha nem tenne meg. Pusztán azért, mert egy autót árokba vezetni képes robotot ne venne meg senki.
A hiba gyokeret ott kell keresni, hogy egy valoban automatizalt vagy robotok altal fenntartott vilagban ilyen helyzet egeszen egyszeruen nem fordulhat elo. Asimov robotos bunugyi regenyei eppen ezert nagyon erdekesek. Mert elvileg lehetetlen hogy baleset vagy netan gyilkossag tortenjen. Ha ez megis megtortenik akkor res van a pajzson. Ajanlom olvasasra ezt az Asimov konyvet: http://moly.hu/konyvek/isaac-asimov-a-hajnal-bolygo-robotjai
Igen, alapvetően a felvetés hibás, hiszen egy jól működő rendszerben nem kellene dönteni, hogy egy vagy több ember, hiszen már a döntés helyzetet kiváltó eseményt is helyén kezelné a rendszer vagyis megelözné.
Nekem is nagyin sántít az egész cikk. Szerintem azzal kellene kezdeni, hogy megpróbáljuk definiálni, mi is az hogy "robot". Mert ha emberszerűen gondolkodik, akkor mi alapján várjuk, hogy azt tegye, (arról gondolkodjon) amit akarunk?
Igen, ez mondjuk igaz, hogy egy ember szerűen intelligens rendszernek ugyanúgy saját preferenciái lesznek mint egy embernek. De még esetleg így is értelme lehet egy olyan kérdésnek, hogy ha valamilyen módon fékeket tudunk építeni egy ilyen rendszerbe, valahogy úgy, mint ahogy Asimov történeteiben a robotika alaptörvényeit, akkor mik legyenek ezek. Az Asimov féle törvények szerintem nem mindig egyértelműek. Tehát ha a fenti példához hasonlóan mondjuk megy egy autó, amit egy robot vezet, és kilép elé egy gyerek (akármilyen tökéletes a rendszer, emberi hibából bármikor döntéshelyzet állhat elő), akkor elüti-e, vagy az árokba vezeti az autót, amitől te halhatsz meg. Ilyen esetben nincs olyan variáció, amivel nem okozol kárt valakinek. Egy ilyen esetben mit tenne a robot, lefagyna? Vagy a két rossz közül a saját preferenciái alapján választana? (Kit "szeret" jobban, a gyerekeket, vagy téged.) Persze ez azt előfeltételezi, hogy ilyen törvények beépíthetőek a robotokba, és a törvények betartása nem csak választás kérdése, mint nálunk, embereknél.
Mondjuk az elöző példánál maradva vélelmezném, hogy egyértelműen irány az árok, hiszen ha egy ilyen intelligens rendszerr tudunk építeni, akkor a ocsiban lévő védelem is jóval jobb, mint a ma ismertek. Akár vegyük példának a Pusztító-ban lévő full belső teres "légzsákot".
Laszlo Fazekas Egy ember mi alapján hoz ilyenkor döntést? Az alapján amit megtanult, plusz az érzelmek (családom előrébb való). A robotnak ilyenkor ugyanúgy döntenie kell, mégpedig az alapján, amit megtanult / megtanitottak neki. De itt túl sokat, vagy inkább keveset feltételezünk a robotokról, egy ilyen helyzetet pár éven belül sima számítógépek meg fognak oldani, és helyesebben, mint egy ember. Az Asimov fele törvények nagyon legegyszerűsített modellek, és szerintem ilyen szabályokra nem lesz szükség, egyszerűen mindig az adott helyzetben a legjobb megoldást kell egy robotnak alkalmaznia - hogy mi a legjobb, azt meg az embereknek kell megtanitania nekik.
Árpád Erdős jó, jó. De ki legyen az az ember vagy emberek? Gondolkodjunk tovább ezen a vonalon. Kikmkerülhetnek ebben az esetben döntés hozatali pozicióba? Politikusok, katonák, pénz emberek, akik - elvileg - a saját érdekeik szerint programozhatják a robotokat vagy a fent említett rendszereket. Ettől valahogy nem nagyon vagyok nyugodt.
Árpád Erdős Pontosan erről van szó, végső soron nekünk kell meghozni a szabályokat, de mik a megfelelő etikai elvek. Ez az amiről itt most beszélgetünk. És ott a másik fele is, amit Nádi András írt, hogy ki alkotja meg ezeket a szabályokat. Bár itt gondolom valami konszenzusos központi szabályozás lesz. Pl. EU-s norma, amit ugye a teljes Európai közösség szavaz meg. Vagy akár valamilyen világ szabvány. De ettől még a kérdés ugyanaz, vajon milyen szabályt kell majd erre hozni? Bele kell vezetnie a robotnak az autót az árokba, vagy nem.
Az autobalesetes peldanal maradva, mar ma is leteznek gyalogos figyelo rendszerek, raadasul ejszaka hokamerat hasznalnak azert, hogy a rendszet idoben eszrevegye a boklaszo gyalogost. Vannak mar sav figyelo rendszerek is amik jelzik ha elhagyod a savodat sot, be is avatkoznak az auto iranyitasaba. Ezek mai dolgok. Ha ezt tovabb gondoljuk pat ev tavlataban siman el tudok kepzelni egy utazasi format amit gepek kontrollalnak. A fenti peldakbok pedig levezetheto hogy a baleset korulmenyeinek felismerese is eleg lehet a baleset elkerulesere. DE ! Ez csak abban az esetben mukodhet ha kiiktatjak az embert. Mert az ember viszont hibazhat.
Persze, de a gond mindig ott van, hogy nem lehet mindenhonnan kiiktatni az embert. Ebből fogják majd a gépek levonni azt a konklúziót, hogy mindenkinek az a legjobb, ha tartályokba zárnak minket, és tökéletes virtuális világot szimulálnak számunkra, ahol nem eshet bajunk. ;)
Árpád Erdős A felvetésed jogos, már ami a "robot" meghatározást illeti. Hiszen az iparban is dolgoznak régóta robotok. Ami a szabályozást illeti csak remélni tudom, hogy utólag kerül szabályozásra - ha már lemaradtunk róla - akár a nukleáris arzenálok.
Nagyon jó kis cikk.
VálaszTörlésMondjuk én megmaradnék az Assimov féle Robotika törvényeinél.
Nem emlékszem pontosan a törvényekre. Ott a robot téged óvna meg, vagy az iskolabuszt az óvodányi gyerekkel?
VálaszTörlésAz egesz elmelet santit. Mar az elejen tevutra teved az elemzo.
VálaszTörlésLaszlo Fazekas érdekesek a törvények ebből a szempontból, hiszen elvileg az iskolabuszt és engem is megvédene.
VálaszTörlésHa jól emlékszem, akkor dióhéjban a következők.
A robot nem nézheti tétlenül, ha egy embert, robotot veszély fenyeget, ami kiegészült az emberiséggel is.
Papp Zsolt Igen van benne valami, hiszen egy ilyen szituban nem helyes egy robotra bízni a döntést. Kicsit olyan Különvélemény szaga lenne a dolognak.
VálaszTörlésEz nem ad útmutatást arra, hogy ha valaki mindenképp meg fog halni, akkor kit válasszon.
VálaszTörlésMondjuk pusztán piaci alapon szerintem senki nem venne olyan rendszert, ami bármilyen indokkal (mások életének védelme) megölheti őt. Tehát ezen "ökölszabály" mentén a te robotod mindig téged védene. Az iskolabuszt csak azzal menthetnéd meg, ha átkapcsolsz kézi vezérlésre, és te vezeted az árokba az autót. A robot ilyet soha nem tenne meg. Pusztán azért, mert egy autót árokba vezetni képes robotot ne venne meg senki.
VálaszTörlésA hiba gyokeret ott kell keresni, hogy egy valoban automatizalt vagy robotok altal fenntartott vilagban ilyen helyzet egeszen egyszeruen nem fordulhat elo. Asimov robotos bunugyi regenyei eppen ezert nagyon erdekesek. Mert elvileg lehetetlen hogy baleset vagy netan gyilkossag tortenjen. Ha ez megis megtortenik akkor res van a pajzson. Ajanlom olvasasra ezt az Asimov konyvet: http://moly.hu/konyvek/isaac-asimov-a-hajnal-bolygo-robotjai
VálaszTörlésA fenti konyvajanlo alatt erdemes beleolvasni a hozzaszolasokba is.
VálaszTörlésIgen, alapvetően a felvetés hibás, hiszen egy jól működő rendszerben nem kellene dönteni, hogy egy vagy több ember, hiszen már a döntés helyzetet kiváltó eseményt is helyén kezelné a rendszer vagyis megelözné.
VálaszTörlésNekem is nagyin sántít az egész cikk. Szerintem azzal kellene kezdeni, hogy megpróbáljuk definiálni, mi is az hogy "robot". Mert ha emberszerűen gondolkodik, akkor mi alapján várjuk, hogy azt tegye, (arról gondolkodjon) amit akarunk?
VálaszTörlésIgen, ez mondjuk igaz, hogy egy ember szerűen intelligens rendszernek ugyanúgy saját preferenciái lesznek mint egy embernek. De még esetleg így is értelme lehet egy olyan kérdésnek, hogy ha valamilyen módon fékeket tudunk építeni egy ilyen rendszerbe, valahogy úgy, mint ahogy Asimov történeteiben a robotika alaptörvényeit, akkor mik legyenek ezek. Az Asimov féle törvények szerintem nem mindig egyértelműek. Tehát ha a fenti példához hasonlóan mondjuk megy egy autó, amit egy robot vezet, és kilép elé egy gyerek (akármilyen tökéletes a rendszer, emberi hibából bármikor döntéshelyzet állhat elő), akkor elüti-e, vagy az árokba vezeti az autót, amitől te halhatsz meg. Ilyen esetben nincs olyan variáció, amivel nem okozol kárt valakinek. Egy ilyen esetben mit tenne a robot, lefagyna? Vagy a két rossz közül a saját preferenciái alapján választana? (Kit "szeret" jobban, a gyerekeket, vagy téged.) Persze ez azt előfeltételezi, hogy ilyen törvények beépíthetőek a robotokba, és a törvények betartása nem csak választás kérdése, mint nálunk, embereknél.
VálaszTörlésMondjuk az elöző példánál maradva vélelmezném, hogy egyértelműen irány az árok, hiszen ha egy ilyen intelligens rendszerr tudunk építeni, akkor a ocsiban lévő védelem is jóval jobb, mint a ma ismertek. Akár vegyük példának a Pusztító-ban lévő full belső teres "légzsákot".
VálaszTörlésLaszlo Fazekas Egy ember mi alapján hoz ilyenkor döntést? Az alapján amit megtanult, plusz az érzelmek (családom előrébb való). A robotnak ilyenkor ugyanúgy döntenie kell, mégpedig az alapján, amit megtanult / megtanitottak neki. De itt túl sokat, vagy inkább keveset feltételezünk a robotokról, egy ilyen helyzetet pár éven belül sima számítógépek meg fognak oldani, és helyesebben, mint egy ember. Az Asimov fele törvények nagyon legegyszerűsített modellek, és szerintem ilyen szabályokra nem lesz szükség, egyszerűen mindig az adott helyzetben a legjobb megoldást kell egy robotnak alkalmaznia - hogy mi a legjobb, azt meg az embereknek kell megtanitania nekik.
VálaszTörlésÁrpád Erdős jó, jó. De ki legyen az az ember vagy emberek? Gondolkodjunk tovább ezen a vonalon. Kikmkerülhetnek ebben az esetben döntés hozatali pozicióba? Politikusok, katonák, pénz emberek, akik - elvileg - a saját érdekeik szerint programozhatják a robotokat vagy a fent említett rendszereket. Ettől valahogy nem nagyon vagyok nyugodt.
VálaszTörlésÁrpád Erdős Pontosan erről van szó, végső soron nekünk kell meghozni a szabályokat, de mik a megfelelő etikai elvek. Ez az amiről itt most beszélgetünk. És ott a másik fele is, amit Nádi András írt, hogy ki alkotja meg ezeket a szabályokat. Bár itt gondolom valami konszenzusos központi szabályozás lesz. Pl. EU-s norma, amit ugye a teljes Európai közösség szavaz meg. Vagy akár valamilyen világ szabvány. De ettől még a kérdés ugyanaz, vajon milyen szabályt kell majd erre hozni? Bele kell vezetnie a robotnak az autót az árokba, vagy nem.
VálaszTörlésAz autobalesetes peldanal maradva, mar ma is leteznek gyalogos figyelo rendszerek, raadasul ejszaka hokamerat hasznalnak azert, hogy a rendszet idoben eszrevegye a boklaszo gyalogost. Vannak mar sav figyelo rendszerek is amik jelzik ha elhagyod a savodat sot, be is avatkoznak az auto iranyitasaba. Ezek mai dolgok. Ha ezt tovabb gondoljuk pat ev tavlataban siman el tudok kepzelni egy utazasi format amit gepek kontrollalnak. A fenti peldakbok pedig levezetheto hogy a baleset korulmenyeinek felismerese is eleg lehet a baleset elkerulesere. DE ! Ez csak abban az esetben mukodhet ha kiiktatjak az embert. Mert az ember viszont hibazhat.
VálaszTörlésPersze, de a gond mindig ott van, hogy nem lehet mindenhonnan kiiktatni az embert. Ebből fogják majd a gépek levonni azt a konklúziót, hogy mindenkinek az a legjobb, ha tartályokba zárnak minket, és tökéletes virtuális világot szimulálnak számunkra, ahol nem eshet bajunk. ;)
VálaszTörlésÁrpád Erdős A felvetésed jogos, már ami a "robot" meghatározást illeti. Hiszen az iparban is dolgoznak régóta robotok.
VálaszTörlésAmi a szabályozást illeti csak remélni tudom, hogy utólag kerül szabályozásra - ha már lemaradtunk róla - akár a nukleáris arzenálok.