Reakció Paul Street néven futó Youtube-csatorna RÉMISZTŐ dolgok amiket ROBOTOK mondtak című videójára
A videó Paul Street stílusában idézeteken és azok elemzésén keresztül bemutatja, hogy a robotika kutatása olyan veszélyeket rejthet magában, amelyek az egész emberiség sorsára kihatással vannak.
A probléma demonstrációjára talán nem ez a videó a megfelelő választás, mivel ennek közzététele az igénytelenséget képviseli. Egyrészt a tartalom készítője felelőtlenül vagy túlságosan haszonérdekűen járt el, a közzététel és továbbítás az iskola értékeivel ellentmond és ennek a videónak a végignézése (illetve a videó jellegének megállapítása után a megtekintés folytatása) arról árulkodik, hogy a megtekintő is elfogadhatatlan értékrenddel rendelkezik.
Szerintem a videónak minden tájékozott emberből felháborodást kellene kiváltania.
A csatornán található többi videóról kategorikusan kijelenthető hogy hatásvadász. Paul Street videóinak nagyrészét toplisták és más médiumokat nem érintő bulvárhírek teszik ki, azon belül is többnyire a "rejtélyes", titkos és horrorisztikus, halállal valamilyen módon összefüggő esetekre összpontosulnak. Ezt nem titkolja, a csatorna és a videó leírásában a megfelelő szavak találhatóak illetve vannak kiemelve.
Paul Street videóira -- habár Paul Street újságírói szerepet vállal és tölt be -- nem jellemző az alapos tényfeltárás. Ezt videóiban egyenesen kijelenti és ilyenkor olyan jelzőket használ, ami arra utal, hogy a kutatás elmaradása csak aktuális, a többi videóra nem jellemző ("most", "kivételesen", "gyorsan").
A tartalmak alacsony minőségét ellenúlyozná, ha a videók készítése és feltöltése csak az alkotó személyes szórakozását szolgálná vagy ha csak egy személyes blogként funkcionálna, azonban jó eséllyel nem erről van szó.
A youtube csatorna mellett található egy Patreon-oldal is, ami leírás szerint a csatorna hosszútávú működését és anyagi kiadásait fedezi, tehát tdk. bármilyen célra felhasználható.
Paul Street az utóbbi időben létrehozott egy új csatornát, azzal a céllal, hogy meggátolja a Youtube algoritmusa által tévesen letörölt videókat illetve oda más fajta tartalmat töltsön fel. Ez szerintem azonban teljesen céltalan (a Youtube nem különböztet meg csatornákat addig, amíg el nem érünk egy bizonyos figyelmeztetési szintet, ha pedig az ilyesmi mégis problémává válna, akkor pedig nem volna elég egy teljesen új, makulátlan fiók regisztrálása sem).
Tehát ez a bejelentés a szerintem inkább csak önsajnálat volt mint szükséges lépés.
Paul Street a vidó elején megemlíti, hogy "Nem alaptalanok azok a teóriák sem, mik szerint ezek a különös mesterséges inteligenciák sokszor rossz indulatúak". A következő bekezdésekben ezt fogom cáfolni.
A robotról szóló magyar nyelvű Wikipédia-cikk meglehetősen szegényes, de az angol nyelvűn már meglehetősen hosszasan taglalják a robot történetét.
Az angol szócikk szerint a Bina48 "össze van kötve az internettel", így az információit nem csak saját kútfőből veszi.
Egyébként a projekt meglehetősen kezdetleges, például nagy eséllyel gondolkodás nélkül kimond olyanokat is, amiket egy ember megtartana magának.
Az adott robot valóban egy személyes élet leéléséhez lett kifejlesztve, és személyes véleményem szerint jól vizsgázott.
Az, hogy az adott mondatot kimondta, valóban kifejezi a robot szándékát. Azonban nincs miért aggódni, hiszen abból, hogy a robot kimondta amit kimondott látszik, hogy nem elég okos.
Mélyreható kutatások nélkül (egyéb "interjúk" és intuíció alapján) számomra úgy tűnik, hogy az adott robot leginkább előre beprogramozott válaszokat ad, az idézett is ilyen volt.
Ha a robotokat emberekhez hasonlítjuk, tudhatjuk, hogy az elmondott viccek nem tükrözik az egyén szándékait.
Egyébként erre a jelenségre valójában nincs megfelelő magyarázat, véletlenek történhetnek. A robotnak egyébként a célját nem segíti a világuralom, úgyhogy a robot ezt nem gondolhatja komolyan.
Szerintem az eredmény nem aggasztó. Az, hogy a mesterséges intelligencia nagy erővel rendelkezik, nem probléma, legfeljebb veszélyes. Hasonlóan a gőzgépeg is nagy erővel rendelkeznek, később megjelentek a robbanómotorok is és nem hinném hogy erre sokan problémaként tekintenének.
Az incidens valószínűleg azért kapta az első helyet, mert a pontos dátum megjelölésre kerül.
A magyar fordítás egyébként kihagy egy kifejezést, ami arra utal, hogy a "2029-ben" egy egyenes idézet.
A robotoknak nincs saját véleményük illetve meglátásuk, vagy ha van is, nincsenek tudatában annak hogy ezek a szavak mit jelentenek. Sajnos a jelenlegi technológia még messze van ettől a fejlettségtől. (Sőt, a jelenlegi AI technológiák esetében nem is beszélhetünk tudatról.)
De megint csak, véletlenek történnek és a robotnak jó eséllyel csak volt ehhez szükséges tanulási mintája, de a gondolkodását minden bizonnyal nem lenne képes ellenőrizni.
Jelenleg a leglátványosabb eredményeket az ún. gépi tanulással lehet elérni, amivel létrehozunk egy viszonylag egyszerű képletet egy bonyolult feladat megoldására minták tanítása alapján. Ezek a minták általában emberektől származnak, így a végeredmény nem a robot gondolatait tükrözi, hanem sajnos bizonyos emberekét.
A mesterséges intelligencia valóban megpróbálhatja kiírtani az emberiséget bizonyos körülmények között, azonban egyrészt lehetőség van a megfelelő izolációra másrészt remélem, hogy amikor elérjük azt a számítási kapacitást ami ezt eredményezi, már nem lesz probléma az emberek és AIk együttélése.
Az evolúció is a buta embereket részesíti előnyben, ez által a robotok sem kivételek.
- Az elemzendő videó
- Paul Street csatornája
- Gyakori érvelési hibák gyűjteménye
- Néhány jó videó AI-ról, amiket érdemes Pau Street helyett nézni:
- 4 Common Misconceptions About A.I.
- The Singularity: What do Black Holes have to do with AI?
- How Will Self-Driving Cars Make Moral Decisions?
- Proof That Computers Can't Do Everything (The Halting Problem), The Halting Problem - An Impossible Problem to Solve
- Understanding The Need for Deep Learning, <playground.tensorflow.org>
- Google's DeepMind AI Just Taught Itself To Walk
- Computer evolves to generate baroque music!, carykh