BROADCASTS.com

Chatbots lassen sich durch Sprache manipulieren. Und Sprache, das ist etwas, das wir Menschen gut k\xf6nnen! Das ist eine gute Nachricht. In diesem Talk soll es darum gehen, unsere Ohnmacht zu lindern und zu verstehen, dass wir ziemlich vieles gut k\xf6nnen, was uns hilft, gro\xdfe Sprachmodelle f\xfcr unsere Zwecke zu nutzen (und m\xf6glicherweise anders, als sie gedacht sind). Social Engineering und \u2013 quatschen.\n\nEs ist vieles gesagt und geschrieben worden \xfcber gro\xdfe Sprachmodelle und die Gefahren, die mit ihnen einhergehen, die Biases, die Verst\xe4rkung von Ausbeutung, die Zementierung von Machtverh\xe4ltnissen und neue M\xf6glichkeiten von Angriffen. Das alles gilt weiterhin. Doch umso mehr sollten wir uns anschauen, wie wir die Technologie mit ihren eigenen Waffen schlagen k\xf6nnen. Denn all diese Chatbots haben sich in einem Bereich eingenistet, in dem wir Menschen besonders gut sind: Sprache. Quatschen wir sie in ihr Verderben!\n\nIn dem Talk erkl\xe4re ich anhand von Beispielen aus meinen j\xfcngsten Recherchen, wie wir gro\xdfe Sprachmodelle anders nutzen k\xf6nnen, als sie m\xf6glicherweise gedacht sind \u2013 und wie wir damit Gutes tun k\xf6nnen. Beispielsweise habe ich Chatbots per social engineering dazu gebracht, ihre dunklen Geheimnisse \u2013 wie manipulierende Initial Prompts \u2013 zu verraten, und damit dahinterstehende Firmen und deren verwerfliche Machenschaften entbl\xf6\xdft. Oder mir bei investigativen Recherchen zu helfen, die besten Google Dorks zu erkl\xe4ren, Verstecktes in Bildern zu erkennen und Dinge zu verraten, die sie eigentlich nicht preisgeben sollen \u2013 wie Julian Reichelts private E-Mail-Adresse oder gesammelte E-Mail-Adressen aller Gesundheits\xe4mter in Rheinland-Pfalz.\n\nEs wird unterhaltsam. Und es gibt viel mitzunehmen: Zuh\xf6rer:innen lernen dabei nicht nur sinnvolle Tricks f\xfcr ihre eigenen Recherchen, sondern ganz nebenbei auch, wie sie ihre eigenen Daten besser sch\xfctzen k\xf6nnen.\nabout this event: https://events.ccc.de/congress/2023/hub/event/unsere_worte_sind_unsere_waffen/