Worked example 4: Urdu story (60 s)

Recording AA_b47c2091-… · grade 4 · age 10 · enumerator #57 · window 331–361 s of the session, 60-s clock from the child's first word at 330.5 s

How to read this page. Section 1 is the printed text the child had in front of them, numbered in reading order. Section 2 is the 60-second clip, timed from the child's first word. Section 3 is what the speech-to-text service typed from that clip; the microphone hears the enumerator too, so prompts like "shabash" can appear between the child's words. Section 4 has one row per scorer with a colour chip for every printed word: the enumerator row is the live tablet marking, the official score; the baseline row is the first automatic method, which matches transcript words to printed words by spelling; each model row is that model's own judgement from the audio or from the transcript. Red where the enumerator has green means the scorer flagged too much; green where the enumerator has red means it waved a mistake through; grey means skipped or never reached; faded means no verdict. "Attempted" is the furthest word reached. Section 5's "difference from enumerator" is each scorer's correct count minus the enumerator's: near zero is good, a large positive number is too lenient, a large negative number too harsh. Section 6 is the second human's re-listen.

1. What the child was supposed to read

1. آج 2. بلال 3. اپنے 4. والد 5. کے 6. ساتھ 7. دریائے 8. جہلم 9. کے 10. کنارے 11. گیا 12. وہاں 13. ٹھنڈی 14. ہوا 15. چل 16. رہی 17. تھی 18. اور 19. پانی 20. آہستہ 21. بہہ 22. رہا 23. تھا 24. بلال 25. نے 26. کشتی 27. کو 28. حرکت 29. کرتے 30. دیکھا 31. اس 32. کے 33. والد 34. نے 35. اسے 36. بتایا 37. کہ 38. دریا 39. ہمارے 40. ملک 41. کے 42. لیے 43. اہم 44. ہے 45. واپسی 46. پر 47. بلال 48. نے 49. خوبصورت 50. پتھر 51. جمع 52. کیے 53. اور 54. مسکراتا 55. رہا 56. وہ 57. بہت 58. خوش 59. بھی 60. تھا

The study export holds only right/wrong flags, not the text itself, so this text was reconstructed from 30 children's reads with an LLM; a word or two of it may itself be wrong, which would show up as the same "mistake" in every scorer's row.

2. The child's audio

Play the 60-second clip (Drive, Taleemabad accounts)
8 kHz classroom recording from the May 2026 study, upsampled. Folder: worked-examples clips

3. What the speech-to-text service heard

اج بلال اپنی والد کی ساتہ دریا دریایی جہلم کی کناری گیا وہاں ٹہنڈی ہوا چل رہی تہی اور پانی اہستہ بہہ رہا تہا بلال نی کشتی کو حرکت کرتی دیکہا اس نی اس کی والد نی اسی بتایا کہ دریا ہماری ملک کی لیی اہم ہی واپسی پر بلال نی خودکشی کی لیی پتہر جمع کیی اور مسکراتا رہا وہ بہت خوش بہی تہا

Soniox stt-async-v3, Urdu hint · 65 words inside the 60-s window. The enumerator's own words (prompts, "shabash") are included when they fall inside the window.

4. Every scorer's verdict on every word

read correctly wrong skipped or not reached no verdict

Enumerator (tablet, live)
آجبلالاپنےوالدکےساتھدریائےجہلمکےکنارےگیاوہاںٹھنڈیہواچلرہیتھیاورپانیآہستہبہہرہاتھابلالنےکشتیکوحرکتکرتےدیکھااسکےوالدنےاسےبتایاکہدریاہمارےملککےلیےاہمہےواپسیپربلالنےخوبصورتپتھرجمعکیےاورمسکراتارہاوہبہتخوشبھیتھا
60 correct of 60 attempted in 60 s (words after the 60-second point are grey: the export records 0 for both "correct" and "never reached", so they are only known up to the attempted count)
Baseline: speech-to-text + spelling alignment
آجبلالاپنےوالدکےساتھدریائےجہلمکےکنارےگیاوہاںٹھنڈیہواچلرہیتھیاورپانیآہستہبہہرہاتھابلالنےکشتیکوحرکتکرتےدیکھااسکےوالدنےاسےبتایاکہدریاہمارےملککےلیےاہمہےواپسیپربلالنےخوبصورتپتھرجمعکیےاورمسکراتارہاوہبہتخوشبھیتھا
42 correct of 60 attempted; 5 extra words the child said are ignored
Gemini 3.1 Pro · audio
آجبلالاپنےوالدکےساتھدریائےجہلمکےکنارےگیاوہاںٹھنڈیہواچلرہیتھیاورپانیآہستہبہہرہاتھابلالنےکشتیکوحرکتکرتےدیکھااسکےوالدنےاسےبتایاکہدریاہمارےملککےلیےاہمہےواپسیپربلالنےخوبصورتپتھرجمعکیےاورمسکراتارہاوہبہتخوشبھیتھا
60 correct of 60 attempted · model note: The child read the entire text fluently and correctly, with a minor self-correction on word 31 which is counted as correct.
Gemini 3.8 Flash · audio
آجبلالاپنےوالدکےساتھدریائےجہلمکےکنارےگیاوہاںٹھنڈیہواچلرہیتھیاورپانیآہستہبہہرہاتھابلالنےکشتیکوحرکتکرتےدیکھااسکےوالدنےاسےبتایاکہدریاہمارےملککےلیےاہمہےواپسیپربلالنےخوبصورتپتھرجمعکیےاورمسکراتارہاوہبہتخوشبھیتھا
60 correct of 60 attempted · model note: The child read the entire passage fluently and accurately with minor self-corrections.
Gemini 3.5 Flash-Lite · audio
آجبلالاپنےوالدکےساتھدریائےجہلمکےکنارےگیاوہاںٹھنڈیہواچلرہیتھیاورپانیآہستہبہہرہاتھابلالنےکشتیکوحرکتکرتےدیکھااسکےوالدنےاسےبتایاکہدریاہمارےملککےلیےاہمہےواپسیپربلالنےخوبصورتپتھرجمعکیےاورمسکراتارہاوہبہتخوشبھیتھا
51 correct of 60 attempted · model note: The child read the text with a few mispronunciations.
Gemini 2.5 Flash · audio
آجبلالاپنےوالدکےساتھدریائےجہلمکےکنارےگیاوہاںٹھنڈیہواچلرہیتھیاورپانیآہستہبہہرہاتھابلالنےکشتیکوحرکتکرتےدیکھااسکےوالدنےاسےبتایاکہدریاہمارےملککےلیےاہمہےواپسیپربلالنےخوبصورتپتھرجمعکیےاورمسکراتارہاوہبہتخوشبھیتھا
60 correct of 60 attempted · model note: The child read all words correctly within the 60-second timeframe.
GPT audio · audio
آجبلالاپنےوالدکےساتھدریائےجہلمکےکنارےگیاوہاںٹھنڈیہواچلرہیتھیاورپانیآہستہبہہرہاتھابلالنےکشتیکوحرکتکرتےدیکھااسکےوالدنےاسےبتایاکہدریاہمارےملککےلیےاہمہےواپسیپربلالنےخوبصورتپتھرجمعکیےاورمسکراتارہاوہبہتخوشبھیتھا
25 correct of 60 attempted · model note: Child read the first part with some errors, then struggled and skipped the rest.
GPT audio mini · audio
آجبلالاپنےوالدکےساتھدریائےجہلمکےکنارےگیاوہاںٹھنڈیہواچلرہیتھیاورپانیآہستہبہہرہاتھابلالنےکشتیکوحرکتکرتےدیکھااسکےوالدنےاسےبتایاکہدریاہمارےملککےلیےاہمہےواپسیپربلالنےخوبصورتپتھرجمعکیےاورمسکراتارہاوہبہتخوشبھیتھا
45 correct of 60 attempted · model note: Several words were mispronounced or substituted, especially in the middle and end of the passage.
MiMo 2.5 · audio
آجبلالاپنےوالدکےساتھدریائےجہلمکےکنارےگیاوہاںٹھنڈیہواچلرہیتھیاورپانیآہستہبہہرہاتھابلالنےکشتیکوحرکتکرتےدیکھااسکےوالدنےاسےبتایاکہدریاہمارےملککےلیےاہمہےواپسیپربلالنےخوبصورتپتھرجمعکیےاورمسکراتارہاوہبہتخوشبھیتھا
60 correct of 60 attempted · model note: Child read the entire passage fluently and correctly with natural pronunciation; all 60 words matched.
Nemotron omni · audio
آجبلالاپنےوالدکےساتھدریائےجہلمکےکنارےگیاوہاںٹھنڈیہواچلرہیتھیاورپانیآہستہبہہرہاتھابلالنےکشتیکوحرکتکرتےدیکھااسکےوالدنےاسےبتایاکہدریاہمارےملککےلیےاہمہےواپسیپربلالنےخوبصورتپتھرجمعکیےاورمسکراتارہاوہبہتخوشبھیتھا
60 correct of 60 attempted · model note: All 60 words were read correctly.
Voxtral small · audio
آجبلالاپنےوالدکےساتھدریائےجہلمکےکنارےگیاوہاںٹھنڈیہواچلرہیتھیاورپانیآہستہبہہرہاتھابلالنےکشتیکوحرکتکرتےدیکھااسکےوالدنےاسےبتایاکہدریاہمارےملککےلیےاہمہےواپسیپربلالنےخوبصورتپتھرجمعکیےاورمسکراتارہاوہبہتخوشبھیتھا
60 correct of 60 attempted · model note: The child read the entire text correctly.
Claude Sonnet 5 · transcript
آجبلالاپنےوالدکےساتھدریائےجہلمکےکنارےگیاوہاںٹھنڈیہواچلرہیتھیاورپانیآہستہبہہرہاتھابلالنےکشتیکوحرکتکرتےدیکھااسکےوالدنےاسےبتایاکہدریاہمارےملککےلیےاہمہےواپسیپربلالنےخوبصورتپتھرجمعکیےاورمسکراتارہاوہبہتخوشبھیتھا
59 correct of 60 attempted · model note: Child read the full passage with typical phonetic variations (e.g., کے/کی, نے/نی, تھ/تہ) treated as correct; only 'خوبصورت' was misread as '…
GPT-5 mini · transcript
آجبلالاپنےوالدکےساتھدریائےجہلمکےکنارےگیاوہاںٹھنڈیہواچلرہیتھیاورپانیآہستہبہہرہاتھابلالنےکشتیکوحرکتکرتےدیکھااسکےوالدنےاسےبتایاکہدریاہمارےملککےلیےاہمہےواپسیپربلالنےخوبصورتپتھرجمعکیےاورمسکراتارہاوہبہتخوشبھیتھا
49 correct of 60 attempted · model note: Judgments based on the provided speech-to-text transcript; no words were fully skipped.
Gemini 3 Flash · transcript
آجبلالاپنےوالدکےساتھدریائےجہلمکےکنارےگیاوہاںٹھنڈیہواچلرہیتھیاورپانیآہستہبہہرہاتھابلالنےکشتیکوحرکتکرتےدیکھااسکےوالدنےاسےبتایاکہدریاہمارےملککےلیےاہمہےواپسیپربلالنےخوبصورتپتھرجمعکیےاورمسکراتارہاوہبہتخوشبھیتھا
44 correct of 60 attempted · model note: The child frequently substituted 'e' sounds with 'i' sounds (e.g., 'ke' to 'ki', 'ne' to 'ni') and misread 'khubsurat' as 'khudkushi'.
DeepSeek 3.2 · transcript
آجبلالاپنےوالدکےساتھدریائےجہلمکےکنارےگیاوہاںٹھنڈیہواچلرہیتھیاورپانیآہستہبہہرہاتھابلالنےکشتیکوحرکتکرتےدیکھااسکےوالدنےاسےبتایاکہدریاہمارےملککےلیےاہمہےواپسیپربلالنےخوبصورتپتھرجمعکیےاورمسکراتارہاوہبہتخوشبھیتھا
35 correct of 60 attempted · model note: Child read all words but made pronunciation errors, especially with endings (تھی/تہی, کرتے/کرتی), some word substitutions (اپنے/اپنی, خوبصور…

5. The counts

ScorerWords correctWords attempted (furthest word reached)Difference from enumerator (correct)Difference (attempted)
Enumerator6060+0+0
Baseline: speech-to-text + alignment4260-18+0
Gemini 3.1 Pro · audio6060+0+0
Gemini 3.8 Flash · audio6060+0+0
Gemini 3.5 Flash-Lite · audio5160-9+0
Gemini 2.5 Flash · audio6060+0+0
GPT audio · audio2560-35+0
GPT audio mini · audio4560-15+0
MiMo 2.5 · audio6060+0+0
Nemotron omni · audio6060+0+0
Voxtral small · audio6060+0+0
Claude Sonnet 5 · transcript5960-1+0
GPT-5 mini · transcript4960-11+0
Gemini 3 Flash · transcript4460-16+0
DeepSeek 3.2 · transcript3560-25+0

6. The second human

The second human (muddasir) re-listened: on the correct count the reviewer agreed with the enumerator; on the attempted count the reviewer agreed with the enumerator; on orf_reading_sentences_urd the reviewer agreed with the enumerator; the enumerator followed the protocol.