Für die einen ist künstliche Intelligenz (KI) eine willkommene Unterstützung im (Arbeits-)Alltag, andere sehen sie skeptische. Sicher ist eines: Spätestens seit ChatGPT ist KI ein vieldiskutiertes Thema. Dabei ist der Einsatz von «intelligenten Maschinen» nichts neues. Auch die Business-Software von KLARA arbeitet mit künstlicher Intelligenz. Um das Potential für KMU besser verstehen zu können, haben wir haben den Experten Dr. David Jonietz, Data Science Manager bei Microsoft, zum Thema befragt.

Im ersten Teil des Interviews zeigte David auf, was KI alles kann – und was (noch) nicht. Im zweiten Teil erklärt er, wie kleine und mittlere Unternehmen KI erfolgreich einsetzen können. Jetzt dreht sich alles um Ethik und Datenschutz im Kontext der Künstlichen Intelligenz.

Das Interview fand während seiner früheren Anstellung bei Axon Vibe statt.

KLARA: Welche Risiken und Chancen birgt KI für uns als Gesellschaft? 

David Jonietz: KI bietet immense Potenziale, wenn es darum geht, komplexe Aufgaben zu automatisieren und so effizienter zu erledigen. Sie hilft uns auch, neue wissenschaftliche Erkenntnisse zu gewinnen und komplett neue Technologien und Produkte zu entwickeln. Zugleich müssen wir uns als Gesellschaft aber auch fragen wie wir mit den potenziellen Risiken umgehen wollen. Wie können wir auf mögliche tiefgreifende Veränderungen auf dem Arbeitsmarkt reagieren? Sind wir bereit mit einer Flut an Falschinformationen im Netz umzugehen? Wie können wir Eingriffe in unsere Privatsphäre verhindern?  
 
Genauso wichtig: Wir wollen nicht, dass bestimmte Bevölkerungsgruppen benachteiligt werden. Deshalb steht in den nächsten Jahren nicht nur der technische Fortschritt im Fokus, sondern auch die Schaffung der nötigen gesamtgesellschaftlichen Rahmenbedingungen, um diese Risiken abschätzen und abfedern zu können. 

Müssen wir erst lernen, KI zu vertrauen? Wenn ja, wie?

Wir müssen in unserer Beziehung zu KI ein gesundes Gleichgewicht finden. Es ist entscheidend, dass wir lernen, kritisch über KI nachzudenken, ohne jedoch übermässig pessimistisch oder gar panisch zu werden. Dafür braucht es eine neue Form der Informationskompetenz: Wie reagieren wir am besten auf Inhalte, die mittels KI erstellt oder verändert wurden? Die Situation ist vergleichbar mit der Zeit, als das Web 2.0 entstand. Es ist wichtig, Grundlagen zu schaffen und transparent zu kommunizieren: Welche Inhalte sind von KI generiert oder manipuliert? Was kann die Technologie und wo liegen ihre Grenzen? 

Gibt es in der Schweiz eine Rechtsgrundlage, die KI reguliert? 

Am 1. September 2023 trat das revidierte Datenschutzgesetz in Kraft. Dieses betrifft auch KI-Anwendungen: Etwa in der Regulierung der Datensammlung und Forderung nach «Privacy by Design» (Datenschutz durch Technikgestaltung). Das Gesetz gibt Wirtschaft und Wissenschaft jedoch keine klare Rechtssicherheit für KI. Dafür braucht es spezielle Regelungen.  
 
Während die Schweiz noch eher abwartend beobachtet, sind andere schon weiter. Die EU schafft mit ihrem «AI Acts» bereits Grundlagen: Etwa das Verbot von riskanten KI-Anwendungen oder Vorschriften, die sich am Risikograd der jeweiligen Anwendung orientieren. Es ist zu erwarten, dass die meisten Schweizer Firmen diese Regeln übernehmen werden. Gleichzeitig wird aber auch der politische Druck für eine Regulation zunehmen. 

«Wir müssen in unserer Beziehung zu KI ein gesundes Gleichgewicht finden. Es ist entscheidend, dass wir lernen, kritisch über KI nachzudenken, ohne jedoch übermässig pessimistisch oder gar panisch zu werden. Dafür braucht es eine neue Form der Informationskompetenz.»  Dr. David Jonietz, Data Science Manager, Microsoft

Wer trägt die Verantwortung dafür, was die KI mit den (Kunden-)Daten macht? Mein Unternehmen, der KI-Anbieter, oder…? 

Die Klärung der Haftung bei Schäden durch eine fehlerhafte KI ist komplex und noch nicht vollständig rechtlich geklärt. Verschiedene Faktoren spielen hier eine Rolle: Darunter die spezifischen Umstände der KI-Anwendung, geltende Gesetze und mögliche vertragliche Vereinbarungen zwischen den Parteien.  
 
Grundsätzlich muss aber das Unternehmen, das Kundendaten sammelt, die Datenschutzgesetze einhalten – unabhängig vom Anbieter einer KI-Lösung. Mittlerweile bieten alle grösseren Anbieter sogenannte «Enterprise-Versionen» ihrer KI an. Diese garantieren, dass die eingegebenen Daten später nicht zum Training des Modells genutzt werden.  

Worauf muss ich als KMU in der Praxis achten? 

Jedes Unternehmen muss seine persönliche Strategie finden, um von diesen bahnbrechenden neuen Werkzeugen zu profitieren. Ich empfehle, offen und optimistisch zu bleiben, und dabei folgendes zu beachten: 

• Nutze KI nur dort, wo ihr Einsatz sinnvoll ist und dem Unternehmen einen klaren Mehrwert bringt.  
• Beziehe bei wichtigen Entscheidungen immer einen Menschen mit ein (Human in the Loop).
• Vertraue den Ergebnissen einer KI niemals blind.  
• Sei dir den rechtlichen Unsicherheiten bewusst und berücksichtige sie bei deinen Entscheidungen.  
• Sei deiner Kundschaft gegenüber transparent, besonders wenn die KI im direkten Kundenkontakt steht.  

Im ersten Teil des Interviews zeigte David auf, was KI alles kann – und was (noch) nicht. Im zweiten Teil erklärt er, wie kleine und mittlere Unternehmen KI erfolgreich einsetzen können. Bleibe immer auf dem neuesten Stand mit dem KLARA Blog.

David Jonietz

David Jonietz

David beschäftigt sich seit 15 Jahren mit der Entwicklung von KI-gestützten Methoden zur Datenanalyse. In diesem Bereich hat er mehr als 50 wissenschaftliche Publikationen und Patente veröffentlicht und Teams von Wissenschaftlern, Software-Entwicklern und Data Scientists sowohl im universitären Bereich als auch in der Industrie geleitet. Zuletzt war er als Chief Analytics Officer bei Axon Vibe hauptverantwortlich für die Bereiche Datenanalyse und KI und ist nun als Data Science Manager bei Microsoft tätig.