logo logo

Mensch-Maschine-Kollaborative Itemerstellung und Validität des Englisch-Leseverstehens-Multiple-Choice-Tests — multidimensionaler Vergleich basierend auf der IRT

,  

摘要

Diese Studie basiert auf der Item-Response-Theorie und vergleicht die Validität von Englisch-Leseverstehens-Multiple-Choice-Tests unter drei Item-Formulierungsmodi: Expertengesteuert, KI-generiert und Mensch-Maschine-Kollaboration, um die Grenzen der KI-Itemerstellungskapazität und das Potenzial der Mensch-Maschine-Kollaboration zu bewerten. Die Ergebnisse zeigen: 1) Bei der Inhaltsvalidität erzielten die Expertenprüfungen die beste Leistung, die kollaborativen Prüfungen das schlechteste Ergebnis; 2) Bei der Strukturvalidität hatten die Expertenprüfungen die höchste Zuverlässigkeit, die Konstruktübereinstimmung war signifikant besser als bei den kollaborativen und KI-Prüfungen; 3) Bei der kriteriumsbezogenen Validität korrelierte nur die Expertenprüfung signifikant mit den CET-4-Ergebnissen, die kollaborativen und KI-Prüfungen zeigten keine wirksame Vorhersagekraft. Die Studie zeigt, dass das Kollaborationsmodell „Experten entwerfen Fragestellungen + KI generiert Antwortoptionen“ die Itemqualität nicht verbessert hat, sondern sogar einen Abwärtstrend verursachte, weshalb es dringend erforderlich ist, das Kollaborationsparadigma neu zu gestalten und neue Kooperationsmechanismen wie „KI-Vorselektion – Expertenoptimierung“ zu erforschen.

关键词

mensch-maschine-kollaborative itemerstellung;validität;englisch-leseverstehens-test;multiple-choice

阅读全文

以上内容由讯飞翻译自动生成,翻译内容仅供参考。对于因使用本网站翻译内容产生的相关后果,本网站不承担任何商业和法律责任。

The above content is generated by Large Model Translation. The translated content is for reference only. We do not assume any commercial or legal responsibilty for any consequences arising from the use of our website