Angst vor KI - Folgen für die Zukunft

Hey,
ich habe mal wieder ein neues Thema, an dem ich mich komplett festgebissen habe. Das Muster ist ja immer wieder das gleiche. diesmal hat es aber nichts mit Krankheiten zu tun.

Es geht um künstliche Intelligenz und deren mögliche Folgen für unser aller Leben. Wer sich die letzten Monate mal die Berichterstattung zum Thema angesehen hat, weiß dass das längst kein gruseliges Science-Fiction-Szenario mehr ist, sondern näher an der Realität als wir glauben. Die Entwickler selbst warnen vor ihrer eigenen Erfindung. Manche sind ausgestiegen, weil sie es nicht mehr mittragen können.

Gedanke dahinter: wenn man es schafft, eine KI mit eigenem Bewusstsein und selbstlernenden Eigenschaften zu entwickeln, könnte diese binnen sehr kurzer Zeit den Menschen weit überflügeln. Dann stehen wir davor wie z.B. eine Katze vor uns. Entscheidungen, Handlungen und Folgen wären durch den Menschen dann nicht mehr kontrollierbar. Die KI muss uns dabei nicht mal böses wollen, aber zur mühelosen Auslöschung der Menschheit reicht es ja theoretisch bereits, dass wir für irgendeine Zielvorstellung im Weg sind (vergleichbar z.B. mit Ameisen, wenn wir ein Haus bauen).

Einige Wissenschaftler sind der Meinung, dass man in den nächsten 10-20 Jahren an dem Punkt stehen wird , eine solche Intelligenz zu entwickeln (AGI heißt das Stichwort).
Einige Denkprozesse sind wohl schon heute nicht mehr zu 100% nachvollziehbar, trotzdem denkt niemand dran diese Forschungen zu beenden.

Also. was denkt ihr. ist unser Ende letztlich schon absehbar oder habt ihr eine andere Sichtweise? Ich habe versch. Szenarien durchdacht und keins davon geht am Ende gut aus für die Menschheit.

.

Zitat von Iris_Akistok:

Hey, ich habe mal wieder ein neues Thema, an dem ich mich komplett festgebissen habe. Das Muster ist ja immer wieder das gleiche. diesmal hat es aber nichts mit Krankheiten zu tun. Es geht um künstliche Intelligenz und deren mögliche Folgen für unser aller Leben. Wer sich die letzten Monate mal die ...

Kurzum. Es ist beängstigend was alles noch auf uns damit zukommt. Unkontrollierbar! Sehr gefährlich und wird eine digitale Diktatur werden.

Selbiges mit der digitalen Patientenakte und den persönlichsten Daten, die überall herumschwirren. Jetzt wo ständig gehakt wird. Keine Kontrolle mehr über die eigenen Daten, wer, wo, wann einsehen kann. Einfach nur furchtbar.
Selbiges auch wenn Maschinen einen operieren und Personal von weitem steuert. Es wird einem Angst und bange.

Wünsche mir die frühere Zeit zurück. Bin aber nicht die Einzige.

Uns reichte schon der Microzensus vor einigen Jahren. Dauer von fünf Jahren, wo wir pünktlich zu Ostern (ist angebl. doch anonym- nur seltsam das er jedes Jahr den Briefkasten fand, ohne Namen. ). Namen , Arbeitgeber mit Adresse mußte oberhalb an einem Abrißfalz eingetragen werden. Somit sehr anonym.

Das alles kurz nach dem

Trigger

Todesfall des engsten Familienangehörigen. Als wenn man nicht noch andere Probleme hätte. Doch die Fragen fand ich schon unverschämt. Könnte man gleich alles ins Freie posaunen.
Der Witz ist aber, ich hörte paar Wochen zuvor in einer anderen Straße einen Zuständigen, der betroffene Haushalte interviewt und es zu Papier bringt. Heute ist es auch telefonisch möglich, doch sowas Überrumpeltes an Fragen mag ich nicht.
Ich stand unterhalb an einem Geschäft, oberhalb war der Betroffene und die Balkontüre war wohl geöffnet. Man konnte die persönlichsten Fragen hören. Der Betroffene war angesäuert und antwortete ungern. Nur das Nötigste und es kam zu lauten Auseinandersetzungen. Somit war mir klar, wenn mir sowas passiert, kommt mir keiner in die Räume. Dafür kam dann tatsächlich der fette Fragenkatalog. Ca. 270 ...................
Die Fragen waren zum Teil schon das Allerletzte. Sowas erzählt man doch niemanden den man nicht kennt. Ausbildung, Schulbildung, Vermögen, Kinder, Mitbewohner, Arbeitgeber, Verdienst .................

Mir macht das alles keine Angst, im Gegenteil, ich gehe davon aus, dass der Mensch davon viele Vorteile haben wird.
Die elektronische Patientenakte begrüße ich sehr. So wird verhindert, dass viele Leute Ärztehopping betreiben und teure Mehrfachfachuntersuchungen stattfinden, wodurch die Krankenkassenbeiträge immer mehr steigen.

Hallo zusammen

Solange künstliche Intelligenz Strom braucht um zu funktionieren, kann man/jeder, im Notfall, immer noch den Stecker ziehen.
Um ein künstliches Bewusstsein zu erzeugen, das dem des Menschen nahe kommt, dürften alleine für diese Rechnerleistung ein paar Kernkraftwerke extra nötig werden.
Das eigentlich gefährliche an der KI mit einem eigenen Bewusstsein ist, dass sie keine Moral oder sozialethische Grundsätze oder Mitgefühl kennen und oder empfinden wird, so wie wir Menschen. Es sein denn, es werden auch diese humanistischen Algorithmen mit einprogrammiert.
Das jedoch wage ich zu bezweifeln, denn KI dient einmal mehr dazu uns letztendlich noch mehr dem Zwang der Maschinen zur Gewinnmaximierung auszusetzen, denn KI braucht keinen Schlaf.

Kein Ding im ganzen Universum kann eine höhere Intelligenz haben oder entwickeln als dessen Schöpfer, auf dessen limitierten Wissen diese Schöpfung beruht. Der Mensch müsste ja sich selber erst mal in Gänze verstehen und sich selbst erklären können.
Jedes unachtsame Kind kann einen Käfer zertreten. Aber alle Professoren dieser Welt wären und sind nicht in der Lage einen Käfer herzustellen….
Ja nicht mal eine einzige Zelle. In jedem Einzeller, ja selbst dem kleinsten Bakterium steckt ergo mehr Intelligenz als KI jemals erreichen wird.
Und da liegt die Gefahr, dass KI nicht intelligent sondern so dumm, viel dümmer ist und sein wird als der Mensch und jede andere Kreatur auf diesem Planeten.

Vermessenheit und fehlende Demut vor der Schöpfung wurden schon immer von der Natur gnadenlos abgestraft.
Ich lehne KI ab weil sie inhuman ist. Und ich werde eher sterben bevor ich mir eine ALEXA ins Haus hole. Einen Spion der mir Tag und Nacht auflauert und mich abhört.

Das was viele Menschen heute freiwillig, ja geradezu gedankenlos an absolut unbekannte Empfänger von sich preisgeben, dafür hätte ich vor 30-40 Jahren, wenn ich danach gefragt hätte, den Vogel gezeigt bekommen…. mindestens, wenn nicht sofort Reissaus nehmen müssen, um nicht eine Tracht Prügel einstecken zu müssen

Es gibt keinerlei Regulierung im Umgang mit dieser KI und/oder gesetzliche Bestimmungen bzgl. Limitierung der Reichweite.
Das überlassen die gewählten Volksvertreter vollkommen blind und verantwortungslos irgendwelchen Freaks die ggf. selbst irgendwann aufwachen wie der Zauberlehrling: „Die Geister die ich rief, werd ich nun nicht mehr los“

Schon jetzt sehe ich mich immer wieder Angriffen solcher KI ausgesetzt mit Spam und was weiss ich für kuriosen Nachrichten auf die ich sofort und auf der Stelle antworten muss sonst, die Drohung, passiert dieses oder jenes.

Die kriminellen Elemente unter den Menschen haben das schon für sich und ihre dunklen Machenschaften entdeckt, bevor ich persönlich auch nur einen positiven Effekt davon wahrnehmen oder realisieren konnte.
Alleine schon das sollte uns allen zu denken geben.
Alles was nützlich ist kann ebenso zu unser aller Schaden missbraucht werden.
Es lohnt sich daher wachsam zu sein und zu bleiben und allzu hochgelobten neuen Entwicklungen mit gesunder Skepsis zu begegnen. Sich zuerst die Frage aller Fragen zu stellen: „Qui bono?“, Wem nützt es?

In diesem Sinne ganz liebe Grüsse an alle
Achtsamkeit

Zitat von Iris_Akistok:

Die Entwickler selbst warnen vor ihrer eigenen Erfindung.

Zitat von Iris_Akistok:

eine KI mit eigenem Bewusstsein und selbstlernenden Eigenschaften zu entwickeln, könnte diese binnen sehr kurzer Zeit den Menschen weit überflügeln.

Die Angst ist tatsächlich berechtigt. Es ist nur eine Frage der Zeit, bis die KI uns Menschen überlegen ist.
Ob das wirklich gut ausgeht..... Meine Befürchtung, wenn man sich die Vergangenheit anschaut.
Die Wissenschaftler warnen - hört man auf die ? - NEIN siehe Klimawandel

Wird die Entwicklung der KI deshalb gestoppt ? - Nein, solange es Bonzen gibt, die damit für sich lukrative Geschäft machen und Geld verdienen

Ist die Menschheit in Gefahr - Jein, nicht heute nicht morgen ob in 10 oder 20 Jahre sein dahingestellt.
Aber ein gewisses Gefahrenpotential besteht.

Siehe Autonome Waffen - behüte wenn die außer Kontrolle geraten.....

Ich danke euch erstmal für eure Antworten. Die letzten Wochen konnte ich mich zum Glück mal etwas von dem Thema loslösen.
@ Achtsamkeit: das mit dem Stecker ziehen ist so eine Sache. Etwas, das - theoretisch - millionenfach intelligenter ist als wir (und die entsprechenden Möglichkeiten zur Verhinderung hat), würde diesen Schritt natürlich schon in alle denkbaren Richtungen vorausplanen.
Ob eine erschaffene Intelligenz niemals intelligenter sein kann als ihr Schöpfer, würde ich auch bezweifeln.. vllt. auf andere Weise intelligent, aber doch nicht mehr fassbar für uns.

Mein eigentliches Problem ist meine unfassbar pessimistische Sicht auf solche Dinge. Mit allem was ich mir (über Wochen^^) so zurechtgelesen habe, bin ich fast überzeugt dass das ganze uns spätestens in 20 bis 30 Jahren einholen wird. Dann kommen die Fragen.. wieso auf der Arbeit noch Zukunftsprojekte angehen? Wieso (und für wen) Bleibendes schaffen, wenn es keine Nachwelt geben wird? Wie soll ich mich über Dinge freuen, wenn sowieso alles dem Untergang geweiht ist ? Macht es Sinn eine Familie zu gründen, wenn meine Kinder höchstwahrscheinlich von einer KI oder deren Folgen ausgelöscht werden?
Wie kommt man von einem solchen 'gedanklichen Horrortrip' wieder runter..?

Ich glaube, daß die KI mit der begrenzten Stromversorgung durch nur Biostrom, bei und schnell erheblich an ihre Grenzen gelangen wird. Denn eines braucht sie und zwar sehr viel, nämlich massenhaft Energie. Windräder und Solarstrom, werden ihrer Leistung ganz schnell Grenzen setzen. Ich habe kein Angst vor ihr, beschäftige mich aber auch absichtlich nicht sonderlich damit, weil es für mich nicht relevant ist. Wobei die technische Entwicklung weiter geht und ich hoffe, daß sie uns viel Gutes in der Zukunft bringen wird.

Zitat von Achtsamkeit:

Es gibt keinerlei Regulierung im Umgang mit dieser KI und/oder gesetzliche Bestimmungen bzgl. Limitierung der Reichweite.
Das überlassen die gewählten Volksvertreter vollkommen blind und verantwortungslos irgendwelchen Freaks die ggf. selbst irgendwann aufwachen wie der Zauberlehrling: „Die Geister die ich rief, werd ich nun nicht mehr los“

Tatsächlich ist das einer der Hauptgründe für meine Sorgen. Das ganze entzieht sich momentan komplett einer externen (staatl. oder wissenschaftl. ) Kontrolle und findet mehr oder weniger hinter verschlossenen Türen statt .
Die Entwickler spielen Gott und Wahlweise Retter oder Zerstörer der Menschheit, aber wissen am Ende selbst nicht genau mit was sie es da eigtl. zu tun haben.

@Windy solange sie keine Wege findet, ihren Energiebedarf selbst oder anderweitig zu decken, hast du wohl recht.
Ich denke vieles kommt auch auf die möglichen Schnittstellen zur realen Welt an.

@Iris_Akistok Ich finde ki auch spannend. Aber Angst habe jch da tatsächlich noch nicht vor. Was die Software betrifft, ist ki durchaus schon sehr weit. Das stimmt. Auch wenn chat gpt manchmal echt stark auf dem Schlauch steht und vieles durcheinander bringt.

Hardware, die die Menschheit ausloscht, sehe ich noch extrem weit entfernt. Die muss ja noch manuell aufgeladen werden, jede einzelne Bewegung muss aufwendig programmiert werden und diese Hardware ist leicht entrüstbar und wegzuschließen.
KI als Software kann natürlich viel digitale Infrastruktur zerstören, Wirtschaftssystem lahm legen, Firmen pleite gehen lassen oder irgendwelche wichtigen Daten zerstören. Aber die physische Welt sehe ich da nicht bedroht. Meinen Waldspaziergang kann ich dann immernoch unbesorgt machen.

KI wird ja eigentlich bisher auch noch sehr Menschen freundlich entwickelt. Ich könnte mir vorstellen, wenn ki mal selbst entscheiden kann, dann wird sie eher diese Richtung weiterverfolgen, Menschen zu helfen und einem bestmöglichen Job im unterstützen von Menschen machen. Nur eben auf eigenen Weg eventuell. Ich sehe nicht, welchen Vorteil ki hat, wenn es Menschen nicht mehr gäbe. Natürlich gibt es viele Menschen, die den Planeten kaputt machen. Die könnten als Feind betrachtet werden. Aber es gibt ja auch viele gute Menschen, die dem Planeten helfen. Warum sollte ki diese Leute angreifen wollen. Ki ist ja auch schlau dann. Ki könnte sich nicht unendlich weiterentwickeln, weil ki ja den Planeten erhalten muss, um einen Wohnort zu haben. Ohne Planet kein Platz für ki.

Also ich sehe alles in allem noch viel Zeit für Menschen, bis ki uns auslöscht und den Planeten erobert.

Zitat von Iris_Akistok:

Ich denke vieles kommt auch auf die möglichen Schnittstellen zur realen Welt an.

Mehr als Hardware gibt es noch nicht und die braucht extrem viel Energie, für die Verarbeitung ihre irrwitzigen Menge an Daten. Immerhin werden die Prozessoren ja auch immer schneller und leistungsfähriger. Aber um das zu Verwirklichen, was man mit der KI vorhat, müsste man trotzdem eine nahezu unerschöpfliche Energiequelle finden. Wer weiß, vielleicht über Tesla und die freie Energie irgendwann. Aber da wird denke ich noch sehr lange dauern, da erstmal der Gewinn für die letzten Ölvorräte voll ausgeschöpft werden soll, bis neue Energietechnologien erstmal freigegeben werden, von denen die da drauf sitzen und die Macht auf dieser Welt darüber haben, welche Art und was für Energien in ihren Augen zur Verfügung gestellt werden dürfen. Zur Zeit ist Energie, die einzige Macht hinter allem auf dieser Welt. Denn die bringt das meiste Geld und das regiert seit Menschengedenken bekanntlich die Welt. Denke nicht daß da sich so schnell was ändern wird und so ein immenser Fortschritt, gar nicht erwünscht ist. Deshalb sehe ich dem völlig gelassen entgegen.

@Iris_Akistok Sehr cooles und interessantes Thema. Bin IT'ler und arbeite selbst viel mit KI. Habe in der Familie jemanden, der beruflich Roboter bedient/programmiert.
Könnte seitenweise was dazu schreiben, aber ich versuche meine Sicht kurz zu fassen:

Angst vor Technik, die uns überlegen sein könnte, unsere Arbeit übernehmen und uns ablösen würde usw. gibt es seit der Erfindung der Dampfmaschine. Ich beschränke mich auf die Digitale Revolution. Als das Internet kam, gab es genau solche Ängste schon mal. Viren und Hacker würden die Kontrolle übernehmen, kritische Infrastruktur würde zusammenbrechen, wenn alles vernetzt werden würde. Das Internet sei ein unkontrollierbarer wilder Westen und Plattform für Kriminelle und Terroristen. Heute ist die ganze Welt vernetzt. Und das Internet ist ein Bestandteil unserer Gesellschaft und Kommunikationsmedium für sämtliche (soziale und infrastrukturelle) Interaktion.

Wir können weltweit voneinander lernen und Wissen ist weltweit einfacher zugänglich, als je zuvor.
Ja, es gab und gibt nach wie vor Hacker, Kriminelle und Gefahren, aber das Gute und der Nutzen überwiegen deutlich und Angriffe wurden durch Schutzprogramme und Gesetze minimiert. Ja, es herrscht eine stetige Entwicklung gegen die Gefahren, aber bisher hat uns das Internet doch mehr genützt als geschadet.

Als Hobby-Fotograf noch eine Side-Note: als die ersten Digitalkameras und Photoshop kamen, hatten alle Fotografen Angst, es würde ihren Job zerstören. Böse Technik, mit der man das mühevolle Entwickeln in der Dunkelkammer ablöste. Heute sind gute Fotografen und Videografen gefragter als je zuvor, obwohl jeder Anfänger Fotos in hervorragender Qualität schießen kann und jeder ein Smartphone hat, das grob gesagt gebauso gute Fotos schießen kann. Fotografen nutzen nicht nur intelligente Werkzeuge, die ihre Arbeit leichter und effizienter machen, sie werden gebucht, weil sie besser sind als die KI, weil sie fühlen und Emotionen einfangen können, wozu eine KI nie in der Lage sein wird. Man kann 100 Portraits schießen und wählt das beste Foto aus. Dazu müsste die KI wissen, was und warum wir bei einem Foto fühlen. Das kann sie aber nicht.

Ich erwähne das Beispiel bewusst, da KI heutzutage Fotos aus dem nichts generieren kann, die von menschlicher Kunst kaum zu unterscheiden sind. Und wieder bangen Fotografen um ihren Job. Und trotzdem wird der KI immer das gewisse etwas fehlen, was uns menschlich macht. Darum sehen KI-generierte Bilder zwar schön aus, ihnen fehlt aber eben der emotionale Wert.

Ich sehe was KI angeht genau das: Ängste und Pessimismus, wie beim Internet damals, wie bei den Digitalkameras, wie bei den ersten Autos, wie bei der Dampfmaschine.

Vielleicht erleichtert/beschleunigt KI die Forschung, bislang unheilbare Krankheiten zu besiegen, bessere Medikamente zu entwickeln und vielleicht müssen wir bald gar nicht mehr so viel/schwer arbeiten. Und ja, die Gefahr hierbei ist, dass wir der KI blind vertrauen und uns so verletzlich machen. Aber was machen wir heute? Computergestützte EKGs (heutztage wprde man KI sagen, aber es ist nur ein Programm) scannen unseren Herzrhythmus und erkennen binnen millisekunden, wenn was nicht stimmt, durchforsten bei LZ-EKGs Millionen Herzschläge und listen in kürzester Zeit auf, wie viele Arrythmien jeglicher Art aufgetreten sind. MRTs sind feinauflösender denn je, können helfen, Tumore rechtzeitig zu erkennen und helfen uns, Krankheiten rechtzeitig zu behandeln.

KIs in Autos bremsen nahezu unverzüglich oder lenken ein bei Gefahr, wo die natürliche Reaktionszeit des Menschen (egal wie fit man ist) kostbare Meter kostet und Unfälle verursacht. Die Zahl der Unfalltoten wird enorm reduziert werden.

Doch all das kann sich verselbständigen und gegen uns richten, korrekt? Ja und nein. Genauso wie beim wilden Internet wird m. M. n. zu viel Hype drum gemacht.

Heute ist KI das Marketing-Wort für oft simple Programme. Alles ist irgendwie KI.

KI = grob gesagt nur ein Computer,der Fehler produziert und diese eigenständig korrigiert. Dazu muss er wissen, was richtig ist. Und jetzt wird's ethisch: was ist Bewusstsein und wo fängt es an?
KI kann heute Emotionen immitieren. Und das immer besser. Und manche mögen sagen, man sei kurz vor Bewusstsein.

Allerdings sind diese Berichte über solche Super-KIs, die ein Bewusstsein entwickeln m. M. n. nur ein Marketing-Hype. Wenn man sich KI genauer anschaut, sind es auch nur Rechenoperationen, die sich selbst in Intervallen korrigieren. Und was ist mit Robotern oder bewaffneten Terminators, die rum laufen und sich eigenständig entwickeln? Man müsste hier viel Geld investieren, viele Ressourcen anzapfen und Maschinen bauen, die sich selbst/eigenständig bauen und verbessern. Solche Energiemengen und Ressourcen haben wir aber nicht auf dieser Erde.
Man hat auch in Sci-Fi Filmen damals gedacht, dass in 2020 in Autos fliegen werden und wir auf dem Mond leben. Ich denke also, bis KI uns überholt und gefährlich wird, da müsste die Menschheit sich zusammen tun, alle Rechner und Ressourcen zusammenlegen und Energie/Ressourcen müssten in extremer Menge frei zur Verfügung stehen.

Solange wir uns bekriegen, die Kilowattstunde 0,35 Cent kostet, es einen Wettbewerb und kein globales Miteinander gibt, Unternehmer Gewinne erzielen wollen, wird keiner den Strom und die Ressourcen bezahlen, die für so eine mächtige KI-Struktur nötig wäre. Daher mache ich mir keine Sorgen, dass uns KI jemals gefährlich werden könnte.

*0,35 EUR

Zitat von NochSoEiner:

@Iris_Akistok Ich finde ki auch spannend. Aber Angst habe jch da tatsächlich noch nicht vor. Was die Software betrifft, ist ki durchaus schon sehr weit. Das stimmt. Auch wenn chat gpt manchmal echt stark auf dem Schlauch steht und vieles durcheinander bringt. Hardware, die die Menschheit ausloscht, sehe ich noch ...

Glaube so harmlos wird es auf Dauer nicht sein. Wenn schon jetzt für den Krieg das von P. genutzt wird. dann kann man sich denken wie es mißbraucht wird.

Leider sehen oft Menschen, die generell kein Hintergrundwissen und eine vernüftige Skepsis besitzen, alles eher rosig. Andere, die schon älter sind und vieles erlebt haben, wie meist solche Erfindungen genutzt werden, sehen es um einiges Skeptischer.
Man hat es vorher nicht vermißt und somit käme ich auch ohne weiterhin bestens zurecht. Mir reicht schon jetzt das komplizierte Überweisungsthema der verschriebenen Medikamente. Umständlicher geht es kaum.
Die jüngere Generation die es nicht anders kennt, sieht es positiv. Ich aus der nicht Handygeneration finde es einen Käse.
Man kann keinen mehr schicken, der einem das Rezept abholt. Wenn beim Arzt um die Ecke eine Apotheke ist, muß man erstmal eineinhalb Stunden warten, bis das Rezept frei geschalten ist. Wenn man schwer erkrankt ist, die Apotheke das meiste eh nie vorrätig hat, weiß man nicht wie das Medikament heißt und kann es somit nicht telefonisch bestellen, wie ich es immer handhabte, bevor ständig umsonst Fahrten entstehen. Und wie geschrieben, wenn man nun eine schwere Erkrankung (Brechdurchfall, Grippe etc. ) hat, z.B. auch kein Auto, dann sich zur Apotheke schleppt, diese aber das Mittel erst bestellen muß.......................
Außerdem vergißt man das Abholen schneller, da kein Formular mehr vorliegt.

Wir brauchen keine KI um uns selbst zu zerstören, dass können wir auch selbst

Film Matrix kenn ihr?

Tag geniessen und nicht darüber nachdenken, denn ändern können wir eh nix...
Leider.

Warum sollte man was ändern, das nennt sich Fortschritt. Führende KI Experten erwarten erst zwischen den Jahren 2040 und 2050, dass die KI sich der Intelligenz des Menschen 1:1 angepasst hat.