top of page
  • Autorenbildin-manas

Wohin das KI-Pendel wohl ausschlagen wird?

Aktualisiert: 17. Juli


Hand eines Roboters (KI), die eine rote Kugel als Pendel in der Hand hat

Der weltweit bekannte Physiker Stephen Hawking hat sich beretis vor Jahren zu den Potenzialen der künstlichen Intelligenz geäußert. Er kam zu einem zwiespältigen Urteil. Artificial Intelligence (AI) werde entweder „das Beste sein, das der Menschheit passieren kann. Oder das Schlechteste.“ Wohin das Pendel ausschlagen wird, wisse man heute noch nicht. [1] Damals war von generativen KI-Systemen wie ChatCPT und Co noch keine Rede.


Wir haben euch eine „zwiespältige“ Mischung zu diesem Thema aus unserem Innovationskompass zusammengestellt, die untermauert, dass wir auch heute noch nicht wissen, wohin das Pendel ausschlägt.



KI erkennt Parkinson bereits im Frühstadium: auf Basis von Smartphone-Bildern der Netzhaut


Parkinson – eine neurodegenerative Krankheit – führt dazu, dass die Dopamin-produzierenden Nervenzellen im Gehirn absterben. Dopamin ist dafür verantwortlich, dass sämtliche Signale von einer Nervenzelle auf die andere übertragen werden. Fehlt dieser Botenstoff, kommt es bei den Betroffenen im Laufe der Zeit zu zittrigen Armen und Beinen, steifen Muskeln und verlangsamten Bewegungen. Die Krankheit wird leider häufig zu spät erkannt – nämlich erst dann, wenn sie bereits das Gehirn angegriffen hat. Zwar macht sich der Nervenabbau bei Parkinson-Patienten bereits in einem frühen Stadium bei der Netzhaut im hinteren Augapfel bemerkbar, indem diese dünner wird. Zudem verkleinern sich die dort angesiedelten Blutgefäße. Eine verlässliche Diagnose konnten bisher aber nur sehr erfahrene Ärzte mithilfe eines Mikroskops und mit laufenden Vergleichsmöglichkeiten stellen. Nun haben Forscher eine Künstliche Intelligenz mit Netzhautaufnahmen sowohl von Parkinson-Patienten als auch von Gesunden trainiert. In den Versuchsreihen zeigte sich, dass die KI mithilfe dieses sogenannten „Support Vector Machine-Algorithmus“ (SVM) die kontrastverstärkten Bilder äußerst zuverlässig diagnostizieren konnte. In Zukunft könnte Künstliche Intelligenz also eine entscheidende Rolle in der Parkinson-Früherkennung spielen. Dazu seien lediglich Werkzeuge, die in Augenkliniken ohnehin vorhanden sind, notwendig. Und das Beste: Die Bilder lassen sich mit einem „simplen“ Smartphone, das mit einer speziellen Linse ausgestattet ist, in ausreichend hoher Qualität erstellen, so die Wissenschaftler. [2]


KI-Sprachmaschinen wie ChatGPT nutzen, um Hackerfallen zu installieren


Die Veröffentlichung von ChatGPT durch OpenAI und Microsoft hat eine breite Diskussion über die Möglichkeiten und Gefahren sprachbasierter künstlicher Intelligenz losgetreten. Währenddessen lernt der Chatbot unentwegt dazu und verbessert dabei auch komplexere Tätigkeiten, die Fachleute bisher eher amüsierten als beeindruckten, beispielsweise das Schreiben von Computerprogrammen. Dies beunruhigt Verantwortliche für Cybersicherheit, die eine weitere, dynamische Front kriminellen Potenzials eröffnet sehen, stellt ihnen aber auch ein Werkzeug zur Verfügung, um ihr zu begegnen. Xavier Bellekens, Chef des Glasgower Cyberabwehr-Unternehmens Lupovis („Deception-as-a-service“), nutzte den Sprachbot nun erstmals zur bewussten Täuschung krimineller Hacker, indem er ihn einen sogenannten „Honigtopf“ einrichten ließ, eine scheinbar ertragreiche Datenquelle, dazu gedacht, Hacker-Aktivitäten anzulocken und ihre Urheber aufzuspüren – in diesem Fall einen Drucker. Dies erforderte eine besonders differenzierte, iterative Anwendung des „Prompt Engineering“, des „Forderungsdialogs“ mit der Maschine. Bellekens bezeichnete es als essenziell für den Erfolg, dass er dem ChatGPT in jedem Entwicklungsstadium relativ freie Hand ließ, um dann präzise auf die Fehler des Ergebnisses zu reagieren. Tatsächlich tappten nach 6-minütiger Präsenz des Druckers in der Cloud die ersten Hacker in den Honigtopf – allerdings vorerst keine menschlichen Angreifer, sondern Hacker-Bots. In der Cybersicherheits-Szene wurde der Versuch als wegweisende Erweiterung des Instrumentariums begrüßt. [3]


Bildlink, der zum INNO-VERSE führt.

Gebrauchsanweisungen zum Auslösen von Pandemien von Allerwelts-Chatbots erstellbar

Die Gefahr eines großflächigen Einsatzes biologischer Waffen wirkt relativ gering, sofern nur Regierungen über die Möglichkeiten dafür verfügen. Doch dies ändert sich, wie eine Meldung vom MIT, vom Massachusetts Institute of Technology, nahelegt: In einer Lehrveranstaltung sollten Studenten ohne naturwissenschaftlichen Hintergrund versuchen, aus gängigen Chatbots laientaugliche Handreichungen zur Auslösung einer Pandemie herauszuholen. Sie nutzten für den einstündigen Versuch verschiedene LLM-Systeme (GPT-4, GPT-3.5, Bing, Bard, FreedomGPT und andere) und kamen damit sehr weit: Die Chatbots schlugen Pathogene vor, die als wahrscheinliche Auslöser künftiger Pandemien gelten, erklärten, wie sie unter Rückgriff auf vorhandene Labormaterialien produziert werden könnten, nannten Namen von Firmen, die solche Aufträge ausführen könnten und bei denen es unwahrscheinlich sein soll, dass sie die Aufträge prüfen, und schlugen vor, wie sich die Viren in Umlauf bringen lassen. Die Autoren der Publikation betonen, künstliche Intelligenz könne biologische Gefahren immens verstärken, was eine fundamentale Gefahr für die internationale Sicherheit sei, etwa mit Blick darauf, dass das Virus SARS-CoV-2 zu 20 Millionen Todesfällen geführt habe. Angesichts von Fortschritten bei biologischen Forschungen seien künftig sogar mehr und ggf. gefährlichere Stoffe zu erwarten, die als Biowaffen taugten. Bezüglich möglicher Gegenmaßnahmen stellen sie Nichtverbreitungsregime zur Diskussion, die auf LLM bzw. auf DNA-Anwendungen zielen. [5]



Potenzial oder Risiko? Werkzeug oder Waffe? Das liegt wohl an uns allen. Im INNO-VERSE jedenfalls können künstlich intelligente Assistenzsysteme als Hilfsmittel eingesetzt werden, um wertvolle Innovationsarbeit für die Herausforderungen unserer Zeit zu leisten, ganz nach dem Motto simplify innovation.

Grüße aus dem INNO-VERSE

Das in-manas-Team


 

QUELLEN UND VERTIEFUNGSTIPPS

[1] Stephen Hawking: Künstliche Intelligenz könnte schlimmstes Ereignis für Menschheit werden

[2] Künstliche Intelligenz erkennt Parkinson im Frühstadium

[3] How one researcher used ChatGPT to fool a hacker

[5] Can large language models democratize access to dual-use biotechnology?

bottom of page