Viele fragen uns: Wird der DET beaufsichtigt? Die kurze Antwort lautet: Ja, natürlich! Und da steckt eine ganze Menge dahinter!

Es ist verständlich, dass bei diesem Thema eine gewisse Verwirrung herrscht. Viele kennen nur die Prüfungen, die sie in der Vergangenheit absolvieren mussten – da hat sich in den letzten Jahren jedoch viel getan!

Die kurze Antwort lautet: Viele wichtige Zulassungsprüfungen, wie u. a. der TOEFL- oder IELTS-Test, die einst in Testzentren durchgeführt worden waren, wurden im Laufe der Pandemie zunehmend online angeboten. Digitale Prüfungen wie der Duolingo English Test (DET) hingegen waren von Anfang an online und dafür konzipiert, Englischkenntnisse auf Abruf zu zertifizieren, unabhängig von Zeit und Ort.

Der Übergang zu digitalen Prüfungen wirft bei vielen Menschen die Frage auf, ob diese denn sicher gegen Täuschungsversuche sind – und genau hier kommen Aufsichtspersonen ins Spiel. Wie funktioniert die Beaufsichtigung jedoch, wenn man den Test nicht vor Ort absolviert? Eine ausgezeichnete Frage, aber lass uns zuerst noch eins klären:

Was ist Proctoring?

Proctoring (deutsch: Überprüfung) bedeutet, dass Testteilnehmende beaufsichtigt werden, um Täuschung während des Tests auszuschließen. Traditionelle Prüfungen, die in Testzentren abgelegt werden, nutzen das sogenannte „Live Proctoring“, bei dem eine Aufsichtsperson im Verlauf mehrerer Stunden eine Gruppe von Testteilnehmenden beaufsichtigt, die sich alle gemeinsam in einem Raum befinden.

Eine einzige Aufsichtsperson versucht, einen ganzen Raum voller Testteilnehmenden zu beaufsichtigen.

Dies trifft nicht auf digitale Prüfungen wie den DET zu, denn diese werden online abgelegt – auf Abruf, 24 Stunden am Tag, überall auf der Welt. Es wäre hier also nicht effizient, jeden Prüfling einzeln und in Echtzeit zu beaufsichtigen. Und wie sich weiterhin herausstellte, hat das Live-Proctoring einige Nachteile. Als wir mit der Entwicklung des Duolingo English Test begannen, war eine der ersten Fragen, die wir uns stellten:  

Ist das Live-Proctoring die beste Methode der Prüfungsbeaufsichtigung?

Das Live-Proctoring beruht auf einer Vertrauenskette aus Dutzenden von Menschen. Schon ein einziger Fehler kann die gesamte Kette unterbrechen. Von den Personen, die den Test austeilen, über Administratoren bis hin zu Aufsichtspersonen und Bewertern gibt es unzählige Möglichkeiten, wie Menschen betrügen und die Testsicherheit gefährden könnten.

Ein Prüfer kann während einer Live-Testsitzung nicht alle Testteilnehmenden gleichzeitig im Auge behalten, sodass sie quasi nur teilweise beaufsichtigt werden. Da es keine Video- oder Sprachaufzeichnungen des gesamten Tests, und somit auch keine anderen Beweise für das Verhalten der Testteilnehmenden gibt, zählen allein die Erinnerungen der Aufsichtspersonen.

Ein Testteilnehmer wird bei einem Täuschungsversuch erwischt und bezieht die um ihn herum sitzenden Personen mit ein, was sich negativ auf die gesamte Gruppe auswirkt.

Da sich die Aufsichtsperson und die Testteilnehmenden im gleichen Raum befinden, ist keine Anonymität gegeben. Dies stellt aus mehreren Gründen ein Risiko dar: Die Testleiter und Prüfer wohnen oftmals in derselben Stadt, wodurch die Gefahr besteht, dass sich die Beteiligten untereinander absprechen und Sicherheitsmaßnahmen umgehen könnten. In den Massenmedien sind mehrere Fälle bekannt geworden, in denen die Maßnahmen zur Prüfungssicherheit lax gehandhabt wurden und die Teilnehmenden die Testleiter bestochen haben, um sich dann gegenseitig zu helfen.

Außerdem werden die Tests in Gruppen durchgeführt, weshalb es oft nicht möglich ist, Betrüger von ehrlichen Testteilnehmenden zuverlässig zu unterscheiden. Das kann dazu führen, dass Betrüger unbemerkt bleiben, während ehrliche Prüflinge der Täuschung beschuldigt werden. Ein einziger Betrugsfall kann dazu führen, dass die gesamte Gruppe von Testteilnehmenden eventuell kein gültiges Ergebnis erhält.

Zurück zum DET: Unser Testmodell beinhaltet kein Live-Proctoring, da in solchen Modellen keine vollständige Beaufsichtigung gegeben ist – weder bei digitalen noch persönlich absolvierten Tests.

Wer beaufsichtigt den Duolingo English Test?

Unser Team von Aufsichtspersonen besteht aus Hunderten von Menschen auf der ganzen Welt und ist in drei Ebenen unterteilt, wobei jede davon jeweils eine eigene, wichtige Sicherheitsebene bildet.

Die Aufsichtspersonen der ersten Ebene sind hochqualifiziert in der Ausweisüberprüfung und im Identifizieren verschiedener Verhaltensweisen der Prüfungsteilnehmenden, die potenziell verdächtig sein könnten. Unsere Aufsichtspersonen der zweiten Ebene sind nicht nur in ähnlichen Sicherheitsfragen geschult, sondern sie sind auch Fachleute im Bereich ESL (English as a Second Language, deutsch: Englisch als Zweitsprache), die einen Großteil der Aufsichtszeit damit verbringen, den Interviewteil des Tests zu überprüfen. Die Aufsichtspersonen der dritten Ebene sind erfahrene Teammitglieder mit Fachkenntnissen in angewandter ESL und höherem Sicherheitsniveau. Sie überprüfen unsere komplexesten Testfälle.

Bei der Einstellung von Aufsichtspersonen suchen wir nach Menschen, die über eine hohe Detailgenauigkeit und Fähigkeiten zur Verhaltensbeurteilung verfügen. Gleich nach der Einstellung erhalten sie eine umfassende Schulung, bei der sie Hand in Hand mit erfahrenen Prüfungsmentoren zusammenarbeiten und detailliertes Feedback erhalten. Unsere Aufsichtspersonen der Stufen zwei und drei werden ebenfalls bewertet, um sicherzustellen, dass sie über Fachwissen im Bereich ESL verfügen. Alle Aufsichtspersonen, unabhängig von der Stufe, durchlaufen eine mehrwöchige Schulung, bevor sie in der Lage sind, Tests eigenständig zu beaufsichtigen.

Wie Duolingo die Sicherheit digitaler Tests gewährleistet

Du kannst dir unsere Überprüfung als eine Art Super-Proctoring vorstellen. Im Rahmen unseres digitalen Ansatzes der Testentwicklung haben wir menschliches Fachwissen mit Künstlicher Intelligenz kombiniert und so einen umfassenden Ansatz für die Testbeaufsichtung entwickelt.

Ein Video eines Testteilnehmers mit verschiedenen Kontrollanzeigen und Daten wird von einer der vielen Aufsichtspersonen überprüft.

Anstatt jeden einzelnen Testteilnehmer in Echtzeit zu überwachen, wird die Testsitzung über Computer, Mikrofon, Tastatur sowie Maus aufgezeichnet und anschließend in mehreren Runden von ausgebildeten Fachkräften ausgewertet. Erst dann erhält der Teilnehmer ein zertifiziertes Ergebnis.

Die Korrektoren überprüfen die Testsitzungen asynchron und aus der Ferne (remote) und sind während des gesamten Prüfungsverfahrens für die Testteilnehmenden und untereinander anonym. So haben die Teilnehmenden keine Möglichkeit, die Prüfer zu beeinflussen und den Test zu manipulieren. Jede Testsitzung findet separat statt, sodass der Täuschungsversuch eines Teilnehmers keine Auswirkung auf das Ergebnis anderer hat. Da jede Testsitzung per Video aufgezeichnet wird, stehen mehr Beweise zur Verfügung, um festzustellen, ob beim Test betrogen wurde oder nicht – Beweise, die von mehreren, anonymen Korrektoren eingesehen und überprüft werden können.

Die Testdurchführung geht längst nicht mehr so vonstatten wie früher, und das Gleiche trifft auf die Testsicherheit zu. Dank der Fortschritte in den Bereichen Bewertung und maschinelles Lernen können wir über digitale Plattformen Prüfungen viel schneller und für viel mehr Menschen anbieten. Dementsprechend sollte sich auch die Testüberprüfung weiterentwickeln, und der Duolingo English Test hat es sich zum Ziel gesetzt, in Sachen Testinnovation immer ein echter Vorreiter zu sein!