| Téma: AI - mesterséges intelligencia |
|
| R.András |
|
Wie gefährlich ist „Künstliche Intelligenz“?
Nachricht und Zitat 3 / 2018
Zitat 3 / 2018
„Der Mensch ist eine Krankheit“
„Es fiel mir auf, als ich versuchte, eure Spezies zu klassifizieren. Ihr seid im eigentlichen Sinne keine richtigen Säugetiere! Jedwede Art von Säugern auf diesem Planeten entwickelt instinktiv ein natürliches Gleichgewicht mit ihrer Umgebung. Ihr Menschen tut das aber nicht. Ihr zieht in ein bestimmtes Gebiet und vermehrt Euch, bis alle natürlichen Ressourcen erschöpft sind. Und der einzige Weg zu überleben ist die Ausbreitung auf ein anderes Gebiet. Es gibt noch einen Organismus auf diesem Planeten, der genauso verfährt. Wissen Sie welcher? Das Virus! Der Mensch ist eine Krankheit, das Geschwür dieses Planeten! Ihr seid wie die Pest! Und wir sind die Heilung!“
Der „Agent“ Mr. Smith, eine künstliche Intelligenz, in dem Film „Matrix“. Regie und Drehbuch: Larry und Andy Wachowski. USA, 1999. 131 Minuten. FSK 16.
Nachricht 3 / 2018
Wie gefährlich ist „Künstliche Intelligenz“?
Lange Zeit wurde „Künstliche Intelligenz“ (KI) nahezu ausschließlich in Science-Fiction-Filmen und Romanen thematisiert. So etwa in „2001: Eine Odyssee im Weltall“ (1968), „Blade Runner“ (1982), „Matrix“ (1999), „A.I. – Künstliche Intelligenz“ (2001), „Her“ (2013), „Transcendence“ (2014), oder „Ex Machina“ (2015).Inzwischen werden Chancen und Risiken von KI auch ausführlich in Sachbüchern wie „Menschheit 2.0.: Die Singularität naht“ von Ray Kurzweil (Lola Books, 2014), „Superintelligenz – Szenarien einer kommenden Revolution“ von Nick Bostrom (Suhrkamp, 2016) oder „Leben 3.0 – Mensch sein im Zeitalter künstlicher Intelligenz“ von Max Tegmark (Ullstein, 2017) sowie in den Wirtschaftsteilen und Feuilletons überregionaler Tages- und Wochenzeitungen diskutiert.
Dabei lassen sich bislang mehrere, oft parallel geführte Diskurse identifizieren: Die gewaltigen Umwälzungen, zu denen der Einsatz KI in der Wirtschaft führen könnte. Eine Debatte, die mitunter auch unter dem Stichwort „Digitalisierung 4.0“ geführt wird. Sie reicht von der Ersetzung von Schalterpersonal in Banken, Hotels und Reisebüros durch sprachfähige Softwareprogramme oder Roboter, den Wegfall ganzer Berufsgruppen wie Taxi- und Bus- und Fernfahrer, Lokführer oder sogar Piloten, die von autonomen Transportmitteln abgelöst werden könnten, bis hin zum Teilersatz von Ärzten und Pflegepersonal im Gesundheitswesen durch den Einsatz maschineller OP-Assistenten, Diagnoseprogramme oder Pflegeroboter.
Leidenschaftlich diskutiert wird auch die Entwicklung KI-gesteuerter, halb- oder vollautonomer Waffensysteme. Kritiker fürchten, dass künftig anstelle von Menschen solche Systeme selbständig entscheiden, wer oder was ein geeignetes militärisches Ziel darstellt und diese eigenständig bekämpfen. 2015 forderten 1.000 Wissenschaftler und Unternehmer, darunter der inzwischen verstorbene Physiker Stephen Hawking, Apple-Mitbegründer Steve Wozniak und Tesla Motors-Gründer ElonMusk, in einem Offenen Brief ein Verbot sogenannter Killerroboter.[i.] In dem Schreiben, das mittlerweile von 3.978 KI-Forschern und 22.541 weiteren Personen unterzeichnet wurde, wird vor einem neuen Wettrüsten und der unkontrollierten Verbreitung autonomer Waffensysteme gewarnt: „Wenn irgendeine größere Militärmacht die Entwicklung von KI-Waffen vorantreibt, ist ein globales Wettrüsten praktisch unvermeidlich, und der Endpunkt dieser technologischen Entwicklung ist offensichtlich: autonome Waffen werden die Kalaschnikows von morgen werden.“ Anders als Atomwaffen benötigten sie „keine teuren oder schwer zu beschaffenden Rohstoffe“. Es sei daher nur „eine Frage der Zeit“, bis sie „auf dem Schwarzmarkt“ erhältlich seien und „Terroristen“, „Diktatoren“ und „Warlords“ in die Hände fielen, die die Bevölkerung „besser kontrollieren“ oder „ethnische Säuberungen“ durchführen wollten. „Autonome Waffen eignen sich ideal für Aufgaben wie Attentate, der Destabilisierung von Nationen, die Unterdrückung von Bevölkerungen und das selektive Töten einer bestimmten ethnischen Gruppe.“[ii]
Im vergangenen Jahr wandten sich 116 Unternehmer in einer ähnlichen Aktion an die Vereinten Nationen. Unter ihn Mustafa Suleyman, Mitgründer und Leiter des britischen KI-Unternehmens „Deep Mind“, das vom US-Konzern Google gekauft wurde. In dem Schreiben fordern die KI-Firmenchefs autonome Waffensysteme auf die seit 1983 existierende Liste verbotener konventioneller Waffen zu setzen.[iii] Mit der Entwicklung autonomer Waffensysteme drohe nach der Erfindung des Schwarzpulvers und der Atombombe nicht weniger als eine „dritte Revolution der Kriegsführung“. „Wenn diese Büchse der Pandora einmal geöffnet ist, wird es schwierig, sie wieder zu schließen“, heißt es in dem Schreiben“.[iv]
Der dritte große Diskurs betrifft die Frage, wie groß die Gefahr ist, das künftige KI den Menschen einmal in jeder Hinsicht überflügelt. Dass diese Frage überhaupt aufgeworfen werden konnte, liegt an den enormen Fortschritten, die die KI-Forschung in den letzten Jahren mit der Entwicklung von neuronalen Netzen und sogenanntem „Deep learning“ gemacht hat. In künstlichen neuronalen Netzen, die der Architektur des menschlichen Gehirns nachempfunden sind, werden Informationen in verschiedenen Schichten und Hierarchiestufen verarbeitet. Anders als bei der traditionellen Programmierung, bei der ein Programmierer einem Computer Schritt für Schritt vorgibt, welche Anweisungen von ihm ausgeführt werden sollen, wird der KI beim sogenannten „Deep Learning“ lediglich ein Ziel vorgegebenen, das erreicht werden soll. Auch wenn die KI nach Ansicht nahezu aller Experten, noch nicht einmal den Kinderschuhen entwachsen ist, kann sie doch schon beeindruckende Ergebnisse vorweisen.
Im Frühjahr 2016 schlug das von der Google-Tochter „Deep Mind“ entwickelte Programm „AlphaGo“ den Südkoreaner Lee Sedol, der als einer der weltbesten Go-Spieler gilt. Go ist ein chinesisches Strategiespiel, bei dem die Spieler abwechselnd schwarze und weiße Steine auf einem Brett platzieren. Ziel ist es, durch das Legen geeigneter Formationen am Ende ein möglichst großes Gebiet des Spielfeldes zu beherrschen, wobei Steine des Gegners eingeschlossen werden können. Aufgrund des größeren Spielfeldes und dem daraus resultierenden Vielfachen möglicher Positionen gilt Go als ungleich komplexer als Schach. Im Winter 2017 präsentierte Deep Mind unter dem Namen AlphaGo Zero eine neue Entwicklungsstufe von AlphaGo. Diese hatten die Entwickler erstmals ausschließlich mit den Regeln des Spiels ausgestattet. Zugfolgen von Partien, die Menschen gespielt hatten, wurden dem Programm vorenthalten. Nachdem es drei Tage lang gegen sich selbst gespielt und so „Erfahrungen“ gesammelt hatte, schlug AlphaGo Zero seine frühere Version in 100 Partien ganze einhundertmal.[v]
So faszinierend die Vorstellung sein mag, wozu eine mit zunehmender Rechenleistung, den Kinderschuhen entwachsende KI künftig alles in der Lage sein wird, die Diskurse über Zukünfte, in denen Künstliche Intelligenzen die Macht auf Erden übernehmen und die Menschen wahlweise ausrotten, versklaven oder aber mit Missachtung strafen, weil sie das Universum für weit spannender als die Erde halten, haftet zugleich etwas Naives an. Denn vorausgesetzt wird in solchen Szenarien stets, dass KI-Programme ein Bewusstsein entwickeln werden, das es ihnen ermöglicht, von ihrer eigenen Existenz zu wissen, sich als von ihrer Umwelt verschieden wahrzunehmen, sich Ziele zu setzen und mit eigener Willenskraft zu verfolgen. Das aber ist nicht abzusehen. Der Mensch bleibt Mensch. Er sieht mehr Wirklichkeiten, auch metaphysische. Er wird also wahrscheinlich weniger intelligent sein als KI, aber dafür klüger. Das allerdings leider ohne Garantie für den einzelnen.
[i.]Autonomous Weapons: An Open Letter from AI &Robotics Researchers. https://futureoflife.org/open-letter-autonomous-weapons Upload zuletzt am 14.6.2017.
[ii] Ebenda.
[iii] Vgl. Übereinkommen über das Verbot bestimmter konventioneller Waffen, die übermäßige Leiden verursachen oder unterschiedslos wirken können. https://www.unog.ch/80256EE600585943/%28httpPages%29/4F0DEF093B4860B4C1257180 ... Upload zuletzt am 14.6.2017.
[iv] An Open Letter to the United Nations Convention on certain Conventional Weapons. https://futureoflife.org/autonomous-weapons-open-letter-2017 Upload zuletzt am 14.6.2017.
[v]Vgl. Max Tegmark: Leben 3.0. Mensch sein im Zeitalter künstlicher Intelligenz. Ullstein Verlag, Berlin 2017. S.131ff.
www.i-daf.org | Spenden
... iDAF_Nachricht_Zitat 3/2018
|
|
|
|
|
| Walaki |
|
Idézet:
Létrehozták a világ első pszichopata mesterséges intelligenciáját
Bolcsó Dániel
2018.06.07. 16:47
Nincs szükség gonosz nagyvállalatokra és világuralomra törő tudósokra, hogy megvalósítsák az Elon Musk rémálmait kísértő elborult mesterséges intelligenciát (MI). Elég hozzá, ha ráeresztik a Reddit legsötétebb bugyraira – írja az Engadget.
Az MIT kutatói fogtak egy MI-t, elnevezték Normannak (nyilván a Psycho főhőse után), és a Redditen posztolt erőszakos és beteg képeket mutogattak neki, majd elvégeztettek vele egy Rorschach-tesztet. Nem volt olyan jó ötlet.
Az egyik tesztpacában egy kontrollcsoportként funkcionáló MI vázát látott virágokkal. Norman egy agyonlőtt férfit. Egy másikban a jó MI egy esernyőt tartó embert ismert fel. Norman egy férfit, akit épp agyonlőnek a sikító felesége előtt. Egy harmadikban a jó MI szerint egy szerelmespár álldogált. Norman szerint egy terhes nő zuhant le egy épületről.
A kutatás célja egyébként nem a pánikkeltés volt. Azt hivatott alátámasztani, hogy a betanítás módja és az ahhoz használt adatok nagyon is meghatározzák a végeredményt. Vagyis amikor egy algoritmus elfogultságot mutat, nem az algoritmus rossz, hanem csak a tréningezéséhez használt adatok elfogultságát örökíti át, az tehát illúzió, hogy az emberi elfogultságot ki lehet szűrni pusztán azzal, ha gépekre bízzuk a döntéseket. Ez önmagában nem újdonság, viszont kritikus fontosságú az MI-fejlesztés jövője szempontjából.
Magáról Normanról a neki létrehozott weboldalon lehet többet megtudni.
https://index.hu/tech/2018/06/07/letrehoztak_a_vilag_elso_pszichopata_mesters ...
|
|
| R.András |
|
Olvastam egy olyan definíciót, hogy az intelligencia = az értelem.
Akkor Isten az abszolút értelem.
A mindentudás. |
|
| R.András |
|
Van Isten.
Csak nem olyan, mint a tévképzeteinkben.
Ráadásul kolléga: informatikus.
Vagy, ha a fölösleges igekötőt elhagyjuk: formatikus. |
|
| rafiki |
|
|
Na, ez jó kérdés. Ha van Isten, akkor valóban CSAK mesterséges intelligencia létezik. |
|
| rafiki |
|
|
Visszatértünk a kiindulóponthoz: mi az intelligencia definíciója. |
|
| R.András |
|
|
Vagy csak mesterséges intelligencia van ? |
|
| R.András |
|
|
Akkor mesterséges intelligencia sincsen ? |
|
| rafiki |
|
Ha úgy vesszük, akkor nincs. Van egy mintaelőállítási képesség - ez egy kombinatorikai alapokon álló mechanizmus, és egy mintaillesztő rendszer, ami a legjobb illesztéseket, illetve az evolúciósan sikeres illesztéseket keresi. Az agy tulajdonképpen egy nagyon-nagyon jól indexelt adatbázist kezel. Az indexek egyediek és mikor intelligenciákat mérünk, akkor ezeket az indextáblákat hasonlítjuk össze. Az adatbázis tanulással fejleszthető-bővíthető, ugyanakkor az erre való fogékonyság szintén egyedi. Ezért vannak - úgymond - buta emberek.
Az, hogy az emberi intelligenciát egy előbb leírt mechanizmushoz hasonlítjuk, ez is egy mintaillesztési próbálkozás. |
|
| R.András |
|
|
Akkor nincs emberi intelligencia ? |
|
| rafiki |
|
|
Cseréld meg a numerikust és a verbálist, akkor 4 lesz. |
|
| R.András |
|
A motorikustól a numerikusig, az csak 3 !
Ezeket bátran nevezhetjük gépi vagy állati intelligenciának.
A verbális kilóg ebből a sorból.
Azt nevezném emberi intelligenciának. |
|
| rafiki |
|
Nem teljesen. Én nem az E.Q. (=) relációt használtam volna, hanem az EbbőlLeszármazik (--> relációt. Másfelöl a 4 intelligenciatípus egyfajta sort képez, amely mentén az analóg világlátás felől (motorikus) a digitális világlátás (numerikus) felé megyünk. Ha ehhez hozzávesszük, hogy az analóg vs digitális nézőpont közti különbséget én a vetítési tengely felbontásában látom (== ha elég közel mész valamihez diszkrét dolgokra fog szétesni), akkor azt is mondhatjuk, hogy az intelligenciafejlődés nem más, mint a vetítési tengely felbontásának növekedése. |
|
| rafiki |
|
Ha a matematika a legelvontabb tudomány, azaz az absztrakció legmagasabb szintje, akkor minden hierarchikusan alatta álló dolog IS matematika. Ez szükségszerű, már logikailag is. Sőt, tovább megyek: magának az empíriának is van saját matematikája és ez erős rokonságban van például a kombinatorikával.
Szerintem.
|
|
| Walaki |
|
a statisztika az nem matematika
az persze igaz, hogy erősssen használja a matematikát ..
|
|
| Walaki |
|
Nem, nem, én csak az "intelligencia" fogalmáról (próbáltam) szóltam!! .... S azért "kevertem" oda Istent. Gondolom, ha valaki "intelligens", na hát, akkor Ő biztos az!  Márha létezik ..
Az IQ az valami egész más. .... Nem kicsit, nagyon!! 
(( Az entrópia, szvsz, nem matematikai fogalom, sz'al, azt végképp' nem hoznám ide .. ))
|
|
| Walaki |
|
Lehet, h létezik. De, az nem matematika!!
A matematika az sokkal elvontabb todomány ....
|
|
| R.András |
|
Nézem, azt látom:
- motorikus intelligencia = ügyesség
- taktilis intelligencia = érzékenység
- numerikus intelligencia = okosság
- verbális intelligencia = bölcseség |
|
| R.András |
|
|
Empirikus matematika = statisztika ? |
|
| R.András |
|
Szerintem Isten az entrópia (is, és minden más is).
Isten a Lét. |
|
| rafiki |
|
|
Az IQ antropomorf fogalom, én nem keverném ide Istent. Amiről te beszélsz az az entrópia. Isten entrópiája 0 (zéro). |
|
| rafiki |
|
|
Létezik empírikus matematika. Például olyan modellek esetén, amikor az numerikusan nem analizálható. Magam is csináltam ilyet. |
|
|