Worked example 10: Urdu word list (60 s)

Recording AA_cc3e50b9-… · grade 2 · age 9 · enumerator #18 · window 1277–1387 s of the session, 60-s clock from the child's first word at 1277.3 s

How to read this page. Section 1 is the printed text the child had in front of them, numbered in reading order. Section 2 is the 60-second clip, timed from the child's first word. Section 3 is what the speech-to-text service typed from that clip; the microphone hears the enumerator too, so prompts like "shabash" can appear between the child's words. Section 4 has one row per scorer with a colour chip for every printed word: the enumerator row is the live tablet marking, the official score; the baseline row is the first automatic method, which matches transcript words to printed words by spelling; each model row is that model's own judgement from the audio or from the transcript. Red where the enumerator has green means the scorer flagged too much; green where the enumerator has red means it waved a mistake through; grey means skipped or never reached; faded means no verdict. "Attempted" is the furthest word reached. Section 5's "difference from enumerator" is each scorer's correct count minus the enumerator's: near zero is good, a large positive number is too lenient, a large negative number too harsh. Section 6 is the second human's re-listen.

1. What the child was supposed to read

1. بچہ 2. دروازہ 3. پانی 4. کتاب 5. گھر 6. قلم 7. بستہ 8. کمرہ 9. استاد 10. اسکول 11. باغ 12. کھڑکی 13. کرسی 14. میز 15. کاپی 16. چائے 17. دودھ 18. روٹی 19. درخت 20. پھول 21. دوست 22. بہن 23. بھائی 24. باپ 25. ماں 26. ہاتھ 27. جوتا 28. کپڑا 29. گیند 30. کھیل 31. منہ 32. سر 33. ناک 34. کان 35. آنکھ 36. ستارہ 37. چاند 38. سورج 39. رات 40. دن 41. دکان 42. بازار 43. سڑک 44. بس 45. گاڑی 46. گھڑی 47. مچھلی 48. پرندہ 49. کتا 50. بلی

The study export holds only right/wrong flags, not the text itself, so this text was reconstructed from 30 children's reads with an LLM; a word or two of it may itself be wrong, which would show up as the same "mistake" in every scorer's row.

2. The child's audio

Play the 60-second clip (Drive, Taleemabad accounts)
8 kHz classroom recording from the May 2026 study, upsampled. Folder: worked-examples clips

3. What the speech-to-text service heard

مچہلی بازار پانی کباب گہر قلم یہ کیا پڑہا ہی یہ کیا پڑہا ہی بستہ کمرہ استاد اسکول باغ پہر اگی پہر کرسی میز کاپی گایڈ کیا کیا دوسرا کیا یہ کیا پڑہا ہی روٹی درخت یہ کیا پڑہا ہی اسکول اگی اسکول دوست اگی ون اینڈ گین نہیں یہ کیا ہی بہایی بات باپ ماں ٹہیک ہی ٹہیک ہی ٹہیک ہی کہا جوتا کپڑا گیند کہیل کہیل اگی پڑہتی ہیں درخت سیر

Soniox stt-async-v3, Urdu hint · 73 words inside the 60-s window. The enumerator's own words (prompts, "shabash") are included when they fall inside the window.

4. Every scorer's verdict on every word

read correctly wrong skipped or not reached no verdict

Enumerator (tablet, live)
بچہدروازہپانیکتابگھرقلمبستہکمرہاستاداسکولباغکھڑکیکرسیمیزکاپیچائےدودھروٹیدرختپھولدوستبہنبھائیباپماںہاتھجوتاکپڑاگیندکھیلمنہسرناککانآنکھستارہچاندسورجراتدندکانبازارسڑکبسگاڑیگھڑیمچھلیپرندہکتابلی
27 correct of 32 attempted in 60 s (words after the 60-second point are grey: the export records 0 for both "correct" and "never reached", so they are only known up to the attempted count)
Baseline: speech-to-text + spelling alignment
بچہدروازہپانیکتابگھرقلمبستہکمرہاستاداسکولباغکھڑکیکرسیمیزکاپیچائےدودھروٹیدرختپھولدوستبہنبھائیباپماںہاتھجوتاکپڑاگیندکھیلمنہسرناککانآنکھستارہچاندسورجراتدندکانبازارسڑکبسگاڑیگھڑیمچھلیپرندہکتابلی
14 correct of 50 attempted; 23 extra words the child said are ignored
Gemini 3.1 Pro · audio
بچہدروازہپانیکتابگھرقلمبستہکمرہاستاداسکولباغکھڑکیکرسیمیزکاپیچائےدودھروٹیدرختپھولدوستبہنبھائیباپماںہاتھجوتاکپڑاگیندکھیلمنہسرناککانآنکھستارہچاندسورجراتدندکانبازارسڑکبسگاڑیگھڑیمچھلیپرندہکتابلی
28 correct of 32 attempted · model note: The child read 32 words, getting 28 correct and 4 wrong, before the audio ended.
Gemini 3.8 Flash · audio
بچہدروازہپانیکتابگھرقلمبستہکمرہاستاداسکولباغکھڑکیکرسیمیزکاپیچائےدودھروٹیدرختپھولدوستبہنبھائیباپماںہاتھجوتاکپڑاگیندکھیلمنہسرناککانآنکھستارہچاندسورجراتدندکانبازارسڑکبسگاڑیگھڑیمچھلیپرندہکتابلی
29 correct of 32 attempted · model note: The child read accurately and steadily up to word 32 before the 60-second limit expired, skipping word 12.
Gemini 3.5 Flash-Lite · audio
بچہدروازہپانیکتابگھرقلمبستہکمرہاستاداسکولباغکھڑکیکرسیمیزکاپیچائےدودھروٹیدرختپھولدوستبہنبھائیباپماںہاتھجوتاکپڑاگیندکھیلمنہسرناککانآنکھستارہچاندسورجراتدندکانبازارسڑکبسگاڑیگھڑیمچھلیپرندہکتابلی
32 correct of 33 attempted · model note: The child read 33 words with one mistake before stopping.
Gemini 2.5 Flash · audio
بچہدروازہپانیکتابگھرقلمبستہکمرہاستاداسکولباغکھڑکیکرسیمیزکاپیچائےدودھروٹیدرختپھولدوستبہنبھائیباپماںہاتھجوتاکپڑاگیندکھیلمنہسرناککانآنکھستارہچاندسورجراتدندکانبازارسڑکبسگاڑیگھڑیمچھلیپرندہکتابلی
48 correct of 50 attempted · model note: The child mispronounced 'دودھ' as 'دھود' and 'دوست' as 'دھوست'.
GPT audio · audio
بچہدروازہپانیکتابگھرقلمبستہکمرہاستاداسکولباغکھڑکیکرسیمیزکاپیچائےدودھروٹیدرختپھولدوستبہنبھائیباپماںہاتھجوتاکپڑاگیندکھیلمنہسرناککانآنکھستارہچاندسورجراتدندکانبازارسڑکبسگاڑیگھڑیمچھلیپرندہکتابلی
47 correct of 50 attempted · model note: Child misread words 6, 11, and 19 but read all others correctly.
GPT audio mini · audio
بچہدروازہپانیکتابگھرقلمبستہکمرہاستاداسکولباغکھڑکیکرسیمیزکاپیچائےدودھروٹیدرختپھولدوستبہنبھائیباپماںہاتھجوتاکپڑاگیندکھیلمنہسرناککانآنکھستارہچاندسورجراتدندکانبازارسڑکبسگاڑیگھڑیمچھلیپرندہکتابلی
5 correct of 50 attempted · model note: The child read a few words correctly but mispronounced or skipped many others.
MiMo 2.5 · audio
بچہدروازہپانیکتابگھرقلمبستہکمرہاستاداسکولباغکھڑکیکرسیمیزکاپیچائےدودھروٹیدرختپھولدوستبہنبھائیباپماںہاتھجوتاکپڑاگیندکھیلمنہسرناککانآنکھستارہچاندسورجراتدندکانبازارسڑکبسگاڑیگھڑیمچھلیپرندہکتابلی
16 correct of 50 attempted · model note: Child attempted all 50 words but struggled significantly; constant teacher prompting throughout; correctly read ~16 words including بچہ, پان…
Nemotron omni · audio
بچہدروازہپانیکتابگھرقلمبستہکمرہاستاداسکولباغکھڑکیکرسیمیزکاپیچائےدودھروٹیدرختپھولدوستبہنبھائیباپماںہاتھجوتاکپڑاگیندکھیلمنہسرناککانآنکھستارہچاندسورجراتدندکانبازارسڑکبسگاڑیگھڑیمچھلیپرندہکتابلی
50 correct of 50 attempted · model note: All 50 words were read correctly within the 60‑second period.
Claude Sonnet 5 · transcript
بچہدروازہپانیکتابگھرقلمبستہکمرہاستاداسکولباغکھڑکیکرسیمیزکاپیچائےدودھروٹیدرختپھولدوستبہنبھائیباپماںہاتھجوتاکپڑاگیندکھیلمنہسرناککانآنکھستارہچاندسورجراتدندکانبازارسڑکبسگاڑیگھڑیمچھلیپرندہکتابلی
The model returned no usable answer for this window (its reply was not in the requested format).
GPT-5 mini · transcript
بچہدروازہپانیکتابگھرقلمبستہکمرہاستاداسکولباغکھڑکیکرسیمیزکاپیچائےدودھروٹیدرختپھولدوستبہنبھائیباپماںہاتھجوتاکپڑاگیندکھیلمنہسرناککانآنکھستارہچاندسورجراتدندکانبازارسڑکبسگاڑیگھڑیمچھلیپرندہکتابلی
23 correct of 47 attempted · model note: Decisions based on transcript tokens; similar pronunciations accepted as correct; clear substitutions (e.g., 'کباب' vs 'کتاب') marked wrong;…
Gemini 3 Flash · transcript
بچہدروازہپانیکتابگھرقلمبستہکمرہاستاداسکولباغکھڑکیکرسیمیزکاپیچائےدودھروٹیدرختپھولدوستبہنبھائیباپماںہاتھجوتاکپڑاگیندکھیلمنہسرناککانآنکھستارہچاندسورجراتدندکانبازارسڑکبسگاڑیگھڑیمچھلیپرندہکتابلی
21 correct of 32 attempted · model note: The child skipped several words and struggled with others, often asking for help or repeating words out of order.
DeepSeek 3.2 · transcript
بچہدروازہپانیکتابگھرقلمبستہکمرہاستاداسکولباغکھڑکیکرسیمیزکاپیچائےدودھروٹیدرختپھولدوستبہنبھائیباپماںہاتھجوتاکپڑاگیندکھیلمنہسرناککانآنکھستارہچاندسورجراتدندکانبازارسڑکبسگاڑیگھڑیمچھلیپرندہکتابلی
18 correct of 47 attempted · model note: Child read some words correctly but made substitutions, omissions, and read words out of order. Many words were skipped after position 30.

5. The counts

ScorerWords correctWords attempted (furthest word reached)Difference from enumerator (correct)Difference (attempted)
Enumerator2732+0+0
Baseline: speech-to-text + alignment1450-13+18
Gemini 3.1 Pro · audio2832+1+0
Gemini 3.8 Flash · audio2932+2+0
Gemini 3.5 Flash-Lite · audio3233+5+1
Gemini 2.5 Flash · audio4850+21+18
GPT audio · audio4750+20+18
GPT audio mini · audio550-22+18
MiMo 2.5 · audio1650-11+18
Nemotron omni · audio5050+23+18
Claude Sonnet 5 · transcript——no usable answer—
GPT-5 mini · transcript2347-4+15
Gemini 3 Flash · transcript2132-6+0
DeepSeek 3.2 · transcript1847-9+15

6. The second human

The second human (fareeda) re-listened: on the correct count the reviewer disagreed with the enumerator; on the attempted count the reviewer disagreed with the enumerator; the enumerator followed the protocol. Reviewer comment: “The student read approximately 50 words, with around 7 observable misreadings. Based on audio review, the student’s performance appears higher than recorded, and the enumerator’s entries are inconsistent with observed attempts and correct responses. Therefore, the recorded data is considered inaccurate from the monitoring perspective.”