Wir sind ein kleines Team in Genf, das Unternehmen dabei unterstützt, KI-Systeme zu bauen und zu betreiben, die fair, transparent und rechtskonform sind.
2019 arbeitete unsere Gründerin Miriam Schäfer als Machine-Learning-Ingenieurin bei einer Genfer Privatbank. Ihr Team hatte ein Kreditscoring-Modell entwickelt, das auf dem Papier sehr gute Ergebnisse lieferte. Beim genaueren Hinsehen stellte sich heraus, dass Antragstellende mit bestimmten Postleitzahlen systematisch schlechter bewertet wurden. Die Postleitzahl korrelierte mit dem Migrationsanteil des Quartiers.
Miriam schlug vor, das Modell zu korrigieren. Die Antwort war: «Das Modell funktioniert doch.» Drei Monate später kündigte sie und gründete Ethical AI Experts.
Das erste Jahr war schwierig. Der Begriff «KI-Ethik» klang für viele Entscheider nach akademischer Theorie. Erst als die EU den Entwurf des AI Act veröffentlichte, begannen Unternehmen zu verstehen, dass ethische KI auch eine regulatorische Notwendigkeit ist. Seitdem wächst die Nachfrage stetig.
Heute besteht unser Team aus sieben Personen. Wir haben Projekte in der Schweiz, Deutschland, Österreich, Frankreich und Belgien durchgeführt. Unser Büro liegt im Quartier des Eaux-Vives in Genf, zehn Gehminuten vom See entfernt.
Vier Prinzipien leiten unsere tägliche Arbeit. Sie stehen nicht nur auf der Website, sondern sind Teil unserer internen Qualitätskontrolle: Jeder Abschlussbericht wird gegen diese Prinzipien geprüft, bevor er an den Kunden geht.
Wir dokumentieren jede Entscheidung, die wir in einem Audit treffen. Unsere Kunden erhalten nicht nur ein Ergebnis, sondern den vollständigen Weg dorthin: welche Metriken wir gewählt haben, warum, und welche Alternativen wir verworfen haben.
Jedes Modell, das wir prüfen oder bauen, wird auf mindestens vier Fairness-Metriken getestet: Demographic Parity, Equalized Odds, Predictive Parity und Calibration. Wenn ein Modell in einer dieser Metriken unter dem Schwellenwert liegt, empfehlen wir konkrete Korrekturen.
Wir arbeiten ausschliesslich auf den Systemen unserer Kunden oder auf dedizierten Schweizer Servern. Personenbezogene Daten verlassen nie das Land, in dem sie erhoben wurden. Nach Projektabschluss löschen wir alle Kopien innerhalb von 30 Tagen.
Wir verkaufen keine eigene Software und erhalten keine Provisionen von Technologieanbietern. Wenn wir ein Tool empfehlen, tun wir das, weil es für Ihr Problem das richtige ist.
Sieben Personen, drei Disziplinen: Informatik, Recht und Philosophie. Hier stellen wir vier von ihnen vor.
Gründerin und Geschäftsführerin
Informatikerin (ETH Zürich), 8 Jahre Erfahrung im Machine Learning. Hat vor der Gründung Kreditscoring-Modelle für eine Genfer Privatbank entwickelt.
Leitender KI-Ingenieur
Spezialisiert auf NLP und Fairness-Metriken. Hat zuvor am IDIAP Research Institute in Martigny an Sprachmodellen gearbeitet.
Juristin für Technologierecht
Studium in Genf und Brüssel, Schwerpunkt Datenschutzrecht und EU AI Act. Berät Kunden bei der regulatorischen Einordnung ihrer KI-Systeme.
Ethik-Berater
Promovierter Philosoph (Universität Bern), 12 Jahre Lehrerfahrung in angewandter Ethik. Entwickelt unsere Governance-Frameworks und leitet die Workshop-Reihen.
Sechs Jahre in der Kurzfassung:
Gründung der Ethical AI Experts GmbH in Genf. Erstes Projekt: Bias-Audit eines Rekrutierungsalgorithmus für ein Schweizer Industrieunternehmen.
Veröffentlichung unseres Open-Source-Fairness-Toolkits «Equicheck» auf GitHub. Über 1 200 Sterne innerhalb des ersten Jahres.
Erstes Projekt im Gesundheitswesen: Überprüfung eines Triage-Algorithmus für ein Universitätsspital in der Deutschschweiz. Das Modell wurde nach unseren Empfehlungen angepasst und ist heute im Einsatz.
Erweiterung des Teams auf sieben Personen. Eröffnung eines zweiten Arbeitsplatzes in Zürich (Co-Working).
Beginn der Zusammenarbeit mit zwei kantonalen Verwaltungen zur Vorbereitung auf den EU AI Act. Beide Projekte laufen noch.
Aktuell: Aufbau eines Monitoring-Dienstes, der die Fairness-Metriken laufender KI-Systeme quartalsweise überprüft. Pilotphase mit drei Kunden.
Unser Büro liegt im Quartier des Eaux-Vives, gut erreichbar mit dem Bus (Linie 2 und 6) oder zu Fuss vom Bahnhof Genève-Eaux-Vives.
139 Knoblauchweg, 1204 Geneva, Geneva, Switzerland
