Data Scientist (vollständig remote, EU/UK/US) – 100–120 USD/Stunde
Digital Dunia LLC
Contact person: Dunja Schmidt
Berlin, Germany
ITArtificial IntelligenceData AnalysisBenchmarkingFinancesFailure AnalysisPython (Programming Language)Pattern RecognitionVisualizationQuality ManagementRubricSciPySQL DatabasesSalesforce TableauRoot Cause AnalysisCarry Out AssessmentsLarge Language ModelspandasMatplotlibLooker Analytics
Description
Ein großes US-Unternehmen sucht derzeit einen datengetriebenen Analysten (Data Scientist), der eine umfassende Fehleranalyse der Leistung von KI-Agenten bei Aufgaben im Finanzsektor durchführt. Die Position wird über Mercor, eine internationale Plattform zur Vermittlung von Tech- und KI-Talenten, ausgeschrieben.
Ziel der Rolle ist es, Muster, Ursachen und systemische Schwachstellen in der Leistungsbewertung zu identifizieren – und so die Qualität, Genauigkeit und Zuverlässigkeit der KI-Evaluationsprozesse zu verbessern.
Deine Aufgaben
- Statistische Fehleranalyse: Erkennen von Mustern in KI-Agenten-Fehlern über verschiedene Aufgabenkomponenten hinweg (Prompts, Rubriken, Dateitypen, Tags).
- Ursachenanalyse: Untersuchen, ob Fehler auf Aufgabendesign, Rubrikenklarheit, Dateikomplexität oder Agentenbeschränkungen zurückzuführen sind.
- Dimensionsanalyse: Analysieren von Leistungsunterschieden in Finanzunterbereichen, Dateitypen und Aufgabenkategorien.
- Reporting & Visualisierung: Erstellung von Dashboards und Berichten, die Fehlercluster, Randfälle und Optimierungspotenziale aufzeigen.
- Qualitätsrahmen: Ableitung von Verbesserungsvorschlägen für Aufgabendesign, Rubrikenstruktur und Bewertungskriterien auf Basis statistischer Erkenntnisse.
- Stakeholder-Kommunikation: Präsentation der Ergebnisse gegenüber Datenlabeling-Experten und technischen Teams.
- Fundierte Kenntnisse in statistischer Analyse, Hypothesentests und Mustererkennung
- Sicherer Umgang mit Python (pandas, scipy, matplotlib/seaborn) oder R
- Erfahrung in explorativer Datenanalyse und der Ableitung handlungsorientierter Insights
- Grundverständnis von LLM-Bewertungsmethoden und Qualitätsmetriken
- Kenntnisse in Excel, SQL sowie Tools wie Tableau oder Looker
- Fließende Englischkenntnisse in Wort und Schrift
- Erfahrung in der Bewertung oder Qualitätssicherung von KI/ML-Modellen
- Hintergrund im Finanzsektor oder Bereitschaft, sich in Finanzthemen einzuarbeiten
- Erfahrung mit mehrdimensionaler Fehleranalyse
- Kenntnisse zu Benchmark-Datensätzen und Bewertungsrahmen
- 2–4 Jahre relevante Berufserfahrung
Mercor ist eine internationale Plattform, die Unternehmen und Talente weltweit miteinander verbindet. Der Fokus liegt auf hochqualifizierten Fachkräften aus den Bereichen Data Science, Machine Learning und Softwareentwicklung. Mercor arbeitet mit führenden Unternehmen aus den USA, Europa und Asien zusammen und bietet Projekt- sowie Vollzeitmöglichkeiten im Tech- und KI-Bereich.
Bitte kontaktieren Sie uns ausschließlich per Nachricht.
### Disclaimer: Ich bin ein unabhängiges Mitglied des Mercor-Referral-Programms.
Der Link, der Ihnen bei Kontaktaufnahme von uns übersandt wird, ist ein Empfehlungslink. Wir arbeiten nicht für Mercor, vertreten Mercor nicht und die Nutzung dieses Links garantiert keine Anstellung. ###
Last edited: 11/09/2025