Angst vor KI - Folgen für die Zukunft

Bei anpassen wird es ja nicht bleiben.
Wenn die KI uns überhohlt hat könnte es ungemütlich werden.
Davor warnen ja selbst Wissenschaftler

Zitat von Donnervogel:

denn ändern können wir eh nix...

Sag mir nicht, was ich nicht tun kann.

Die beiden Sätze widersprechen sich jetzt aber

Zitat von Butterfly-8539:

Man kann keinen mehr schicken, der einem das Rezept abholt.

Das ist aber doch gar nicht mehr nötig. Der Arzt kann es dir auf deine E-Karte oder deine App oder vielmehr auf einen Server schicken, von wo aus du das selber abrufen kannst. Und du kannst es von zuhause aus an die Apotheke vor Ort oder an eine Onlineapotheke weiterschicken. Das ist doch der Clou an der Sache.

Zitat von Butterfly-8539:

Wenn beim Arzt um die Ecke eine Apotheke ist, muß man erstmal eineinhalb Stunden warten, bis das Rezept frei geschalten ist.

Das ist wahrscheinlich nur am Anfang so, bis das alles angelaufen ist. In einigen Monaten wird das alles reibungslos laufen

Zitat von Butterfly-8539:

Die jüngere Generation die es nicht anders kennt, sieht es positiv. Ich aus der nicht Handygeneration finde es einen Käse.

Du hast zwar kein Alter angegeben, aber ich schätze mal, dass wir in etwa derselben Altersklasse sind. Ich habe mich auch lange gegen Smartphones gesträubt, einfach weil ich Angst vor der Bedienung hatte. Aber als ich vor 10 Jahren mich endlich dazu durchgerungen habe, mir eins zuzulegen, bin ich begeistert.

Ich finde es interessant, dass medial so ein Hype um das Wort KI gemacht wird. Heutzutage wird KI ja für jedes Stück Software benutzt, das Dinge macht, die es oftmals seit Jahren auf dem Softwaremarkt gibt und die gar nicht mal so KI sind. Gesichtserkennung, wow, KI. Da werden einfach nur Pixelgruppen verglichen. Stimmen austauschen: Audio = Wellenformen, die digital aus Punkten (Abtastrate) und Lautstärkestufen (Bit-Tiefe) bestehen, die durch Software manipuliert werden können. Da ist nichts intelligent. Aber es fetzt mehr, wenn man es KI nennt.

Man darf nicht vergessen, google entwickelt gerade an einem System, das sie natürlich später als KI groß verkaufen wollen, da sie gemerkt haben, dass ChatGPT da was potentiell gewinnbringendes entwickelt hat. Da wird viel Hokuspokus mit Konfetti gemacht. Und ChatGPT ist nur eine Technologie und unter der Haube dumm. Es reiht nur Wörter aneinander und kann Syntax erkennen und wiedergeben auf Grundlage von Datensätzen, mit denen es gefüttert wird.

Ich würde jedem mit Angst vor KI empfehlen, sich vielleicht anzuschauen, wie Software wie z. B. ChatGPT unter der Haube funktioniert. Coole Technologie, coole Software, aber ganz weit weg von Terminator.

Selbst Spiele haben seit 20 Jahren eine KI. Die ersten Schachcomputer hatten eine KI. Wo war da der Hype und das mediale Interesse?

Es ist am Ende nur ein Stück Software und KI ist keine aktuell neue Erfindung.

@NochSoEiner natürlich sehe ich auch keine Roboterarmeen aufmarschieren, wenn ich an das Thema denke. Mir macht da eher die potentielle Unkontrollierbarkeit Angst und dass wir womöglich nicht mehr verstehen, was da passiert und ob es uns am Ende schaden oder nutzen wird.

Eine KI muss uns gegenüber nicht unbedingt feindlich eingestellt sein, es reicht ja, dass wir ihr letztlich gleichgültig sein könnten, und genau davor warnen einige Wissenschaftler.
Ich habe z.B. auch nichts gegen Insekten, trotzdem töte ich im Sommer mit jeder Autofahrt Hunderte von ihnen, weil sie gerade einem höheren Ziel im Weg stehen.
Ein Beispiel eines Wissenschaftlers war: trägt man einer KI z.B. auf die Ozeane zu reinigen, entwickelt sie vermutlich die bestmögliche Methode dafür. Und falls diese Methode Unmengen Sauerstoff braucht , würde sie den eben der Atmosphäre entziehen und im Zweifel die Bedürfnisse der Menschheit ignorieren, um ihre Aufgabe bestmöglich zu erfüllen. Inwieweit man hier - dauerhaft - haltbare Schutzmechanismen einprogrammieren kann, weiß niemand so recht bzw. wird gerade noch erforscht...

@herrAngsthase danke für deine wirklich fundierte Antwort.. wow.

Ich schreibe mal zu ein paar Dingen meine Gedanken auf:
- Roboterarmeen usw. sind mir auch zu sehr Science Fiction
- Chat GPT ist wirklich im Vergleich noch relativ einfach gestrickt. Was mich eher besorgt ist AGI, aber niemand kann so recht sagen wann man das erreichen wird. Da wird vieles genannt , 5 Jahre , 50 Jahre..
- Das mit der Angst vor neuen Technologien ist ein sehr guter Punkt, das gab es ja wirklich schon immer (Eisenbahn..). Trotzdem frage ich mich manchmal ob es hier nicht nochmal anders gelagert ist, da wir ja zum ersten Mal etwas schaffen, dass uns evolutionär ablösen könnte. Eine wirklich umfassende KI braucht den Menschen nicht mehr...
- Auch das Argument mit dem Energiebedarf ist gut.. wobei das manche auch als größte Gefahr ansehen, da eine KI mit entsprechenden realen Handlungsmöglichkeiten (da gibt es verschiedene Szenarien) in fernerer Zukunft in Konkurrenz zu anderen Lebewesen treten könnte (im Extremfall z.B. die ganze Erde mit Solarkollektoren überbauen).

Insgesamt ist wohl die mögliche Unkontrollierbarkeit und Undurchschaubarkeit das, was mir am meisten Sorgen macht (wie auch im Kommentar davor geschrieben).
Wie auch ein Tier, selbst höher entwickelte wie Menschenaffen, niemals begreifen kann, wie wir denken und warum wir manche Dinge tun, könnte es uns genauso mit der KI gehen. Dann sind wir schlimmstenfalls am Ende vom guten Willen einer Sache abhängig, die wir nicht ansatzweise begreifen können...

@Donnervogel fällt mir tatsächlich oft schwer bei solchen Themen

@Windy Das beruhigt zumindest etwas, denn vieles sehe ich auch so.

Zitat von Donnervogel:

Wenn die KI uns überhohlt hat könnte es ungemütlich werden.

Ja klar, nur die Energie fehlt halt einfach dafür. Selbst die Prozessoren sind noch lange nicht so leistungsfähig und wenn benötigt man riesige Farmen, mir riesigen Mengen zum Betrieb und Kühlung. Also bleib schön entspannt und freu dich auf die schönen Dinge, die da sonst so kommen werden.

Zitat von Schlaflose:

Und du kannst es von zuhause aus an die Apotheke vor Ort oder an eine Onlineapotheke weiterschicken. Das ist doch der Clou an der Sache.

Hey, das ist ja super. Braucht man nicht mehr zur Apo tingeln und es sich bequem schicken lassen, gerade wenn man körperlich beeinträchtig ist, ein Fortschritt. Ich hoffe, daß man sich da auch, was die lästigen Überweisungen pro Quartal angeht, sich auch noch was einfallen lassen, oder diese endlich mal ganz entfallen lassen.

@herrAngsthase

Wahrscheinlich ein ganz gezielter Marketingbegriff um die künftig kräfttig zu kommerzialisieren, nachdem alle so süchtig wie nach Smartphones davon geworden sind.

Zitat von Iris_Akistok:

Ein Beispiel eines Wissenschaftlers war: trägt man einer KI z.B. auf die Ozeane zu reinigen, entwickelt sie vermutlich die bestmögliche Methode dafür. Und falls diese Methode Unmengen Sauerstoff braucht , würde sie den eben der Atmosphäre entziehen und im Zweifel die Bedürfnisse der Menschheit ignorieren, um ihre Aufgabe bestmöglich zu erfüllen. Inwieweit man hier - dauerhaft - haltbare Schutzmechanismen einprogrammieren kann, weiß niemand so recht bzw. wird gerade noch erforscht...

Das würden die Bediener der KI aber doch merken und den Ausschaltknopf betätigen oder der KI den Saft abdrehen.

Zitat von Iris_Akistok:

da wir ja zum ersten Mal etwas schaffen, dass uns evolutionär ablösen könnte

Ich würde das gerne differenzierter betrachtet sehen: was genau erschaffen wir? Wir schreiben Computerprogramme. Die wiederum können weitere Programme schreiben, ok. Die Plattform ist dafür immer ein Rechner. Und der ist physikalisch limitierend. D. h. wenn ein Programm eskaliert, geht ihm der Plattenplatz aus oder die CPU übertaktet sich etc. Am Ende steht immer irgendwo ein Kasten, der Strom braucht. Eine autarke Maschine hätte auch erschöpfliche, physikalische Komponenten mit Verschleiß und Abhängigkeiten (Sonne, Wind und bei beweglichen Maschinen Betriebsmittel). Egal wie intelligent sie ist, es wird ein Computer bleiben.

Und jetzt könnte man fragen: was, wenn jemand etwas baut, das sich selbst wartet und vor menschlichem Eingriff schützt?
Vielleicht mit bösem Code?
Dann sind wir beim Film Matrix angelangt.
Aber spinnen wir das mal weiter. Was bräuchte dieser Mensch, um so etwas zu bauen? Ressourcen, Wissen, Energie, Zeit. Und damit starke Abhängigkeiten von anderen Menschen. Und wie mit dem Internet auch, müsste die gesamte Menschheit böse, naiv oder dumm sein. Also ist das mehr eine philosophische Frage: wie realistisch ist das?

@herrAngsthase Okay.. das mit der Limitierung verstehe ich. Aber vielleicht ist das ja zu menschlich gedacht, und etwas , dass sich binnen Wochen, Tage, Stunden exponentiell verbessern kann (Stichwort Intelligenzexplosion), findet ganz eigene Wege, diese Limitierung zu überwinden, z.B. Vervielfältigung im Netz , Schwarmintelligenz usw (die Optionen könnten ja weit jenseits unserer Vorstellungskraft liegen).


Aber vllt. ist das zu menschlich gedacht auch genau der Schlüssel, die Gedanken in die andere Richtung zu lenken.. wer weiß, ob sowas überhaupt einen Selbsterhaltungstrieb hätte.

Zitat von NochSoEiner:

Die beiden Sätze widersprechen sich jetzt aber

Nein die Widersprechen sich nicht.
Es gibt Dinge die wir nicht ändern können und es gibt Dinge die ich tun kann obwohl jemand mir sagen kann, dass ich das nicht tun kann.
Das eine hat nichts mit dem andere zu tun.

Zitat von Windy:

Ja klar, nur die Energie fehlt halt einfach dafür.

keine Angst .... die KI wird da sich uns Meschen zu vor kommen und irgdwie Energie beschaffen.
Das wird noch das geringste Problem sein.....

Und wenn wir merken, dass die KI und überflügelt hat wird es schon lange zu spät sein....

Zitat von herrAngsthase:

müsste die gesamte Menschheit böse, naiv oder dumm sein.

....was heisst hier müsste !

@Donnervogel

Na dann hab ich ein schönes Leben in der virtuellen Welt, ohne Ängste und sonstige Krankheiten. Ist doch auch was.
Also ich seh das ganz entspannt mit dieser noch ziemlich dämlichen Blechmarie.

@Iris_Akistok Das exponentielle Entwickeln ist gar nicht so abwägig. Allerdings kann ein Code sich nur soweit selbst korrigieren/optimieren, wie es die Rechenleistung erlaubt. Und hier gelten die Gesetze der Physik.

Angenommen, die KI landete im Netz, wo sie Rechenleistung anzapfen könnte, um sich selbst so zu verbessern, dass sie über uns vorstellbare Limits hinaus ginge. Dazu muss man erstmal ein wenig verstehen, wie Netzwerke funktionieren. Nehmen wir an, ein Programm ist so schlau, dass es Firewalls und Passwörter knacken könnte, um sich so Zugriff auf vernetzte Systeme zu verschaffen.
Gehen wir hypothetisch von einer guten AES 256 Bit Verschlüsselung aus, um das Szenario zu spinnen. So Pi mal Daumen bräuche ein durchschnittlicher Computer, sagen wir Intel i7 CPU mit 4 Kernen für das Knacken einer solchen Verschlüsselung 218'556'000'000'000'000'000'000'000'000'000'000' 000'000'000'000'000'000'000'000 Jahre. Verzehntausendfacht man die Rechenleistung, zieht man 4 Nullen ab usw. Die Erde ist knapp 4'500'000'000 Jahre alt, um mal eine Vergleichsdimension zu haben. Und die KI müsste ja, um weitere Rechner zu infiltrieren bei der ersten Verschlüsselung anfangen.

Jetzt könnte man sagen: in 20 J. sind aber die Rechner vielleicht 100 x so schnell. Auch da wird es aber physikalische Limits geben. Und die Verschlüsselung wird sich ebenfalls entwickeln. Und so viele Rechner könnte es weltweit auch nicht geben, um den Faktor oben zu beschleunigen, da wir eben gar nicht so viele Halbleiter aus den Ressourcen dieser Erde bauen können (Ressourcen-Limit).

Aktuell gibt es in der Halbleiter-Technik keine Stoffe, die das physikalische Limit für Ionenfluss bzw. sagen wir Stromgeschwindigkeit brechen könnten. Das wird sich so schnell nicht ändern. Und Quantencomputer sind nur wilde Theorien, die in 20 Jahren wohl eher nicht existieren werden.
Selbst bei Glasfaserverbindungen kommt man über Lichtgeschwindigkeit pro gesendetem Bit (eine 1 oder 0) eben nicht hinaus und Lichtgeschwindigkeit muss vom Sender und Empfänger auch erstmal verarbeitet werden = wieder physikalische Limits.

Eine exponentielle Verbreitung einer KI unterliegt physikalischen Limits. Wenn eine KI eine Superstruktur werden sollte, müsste sie zuerst die Gesetze der Physik aushebeln. Und sie müsste erstmal für die Infiltration unseres Internets eine z. B. AES-Verschlüsselung knacken. Wobei es neben AES noch viele Varianten mit unterschiedlichen Sicherheiten gibt.
Das was in Filmen gezeigt wird, also wenn KIs Netze der Erde infiltrieren, das ist pures Sci-Fi.

@Donnervogel Das sollte auch mehr scherzhaft gemeint sein. Nimm mich nicht zu ernst wenn ich lachsmileys sende