張太雷小時候名泰來，他的父親張光斗，母親薛氏，因家境貧寒，寄居在外公薛錦元家中。后來得到在江西萍鄉安源煤礦任總辦的張紹曾的幫助，介紹太雷的父親到安源煤礦謀生。

　　1901年春天，泰來剛過兩歲，全家四口，就來到安源煤礦。張光斗當了洗煤臺文書，礦上安排了住房，生活算是安定下來了。但是礦區沒有學堂，連私塾也沒有。小泰來和姐姐泰臨的教育成了大問題，就在泰來四歲多、泰臨七歲多的時候，父親張光斗就成了他們的第一任家教老師，以《千字文》、《百家姓》、《三字經》為教材，從識字開始，以后又學唐詩、宋詞。張光斗白天上班后，母親薛氏就督促姐弟倆復習功課，抄書或默寫，小屋子里經常傳出朗朗的讀書聲。

　　但好景不長，1906年春節期間，張光斗突然病倒，救治無效，年僅36歲就去世了。在萍鄉無依無靠沒有經濟來源的薛氏，只好帶孩子重返故鄉常州。在張紹曾的幫助下，薛氏到張家幫傭，小泰來進入在貞和堂設立的私塾去讀書。私塾老師是一個戴老花眼鏡的秀才，所教的課也離不開四書、五經之類，每教完一篇，就要學生背誦，背不出來就要用戒尺打手心，小泰來從小打下的基礎好，自己也懂得讀書的機會來之不易，所以非常用功。但私塾老師教的《千字文》、《百家姓》等泰來早已學過了，有時上課思想不夠集中，老師亦有所察覺，就故意點名叫泰來背書，當然這難不倒泰來，老師見他背得流利順暢，不錯不漏，也不好責怪他。一天，老師正領著學生朗讀《千字文》，發現泰來在看另外一本書，走近一看，泰來看的是一本《孟子》，老師當場收了《孟子》，又叫泰來站起來背《千字文》，泰來就從“天地玄黃，宇宙洪荒”背起，一字不差，背了一段后，老師知道他學過了，就叫他坐下。第二天，老師把《孟子》還給泰來，并向學生宣布，從今天起，我們分兩個班教學，張泰來學《孟子》，其余的仍學《千字文》。泰來很是高興，終于可以學新課了。

　　當泰來把《孟子》打開，看到老師用毛筆寫的紙條，上面端端正正寫了十個字：“學新以增智，溫故而知新”。泰來十分感動，理解老師的心意，懂得學無止境，不可自滿。從此，泰來既學新課，又溫舊書，知識大有長進。老師總是歡喜勤奮學習的好學生的，除指導他讀書外，還教他練習書法，小泰來進私塾讀書半年多，從沒有挨過一次板子，而且常常受到表揚。他每天回家后除自己復習外，還要教不能去上學的姐姐讀書。1906年秋天，泰來進入西郊兩等小學堂讀二年級，課程有國文、歷史、地理、自然、社會、珠算等，知識面擴大了。對于勤奮好學、求知欲旺盛的泰來來說，心理上得到了很大的滿足，他對每門功能都充滿了興趣，上課時聚精會神地聽講，下課后認認真真地復習。因此，每門功課都是優秀，受到老師器重，同學稱贊。1911年夏天，泰來從小學畢業，進入常州府中學堂，開始了中學階段的學習。常州府中學堂設置的課程更多，張太雷如饑似渴地汲取各門知識，對英文尤感興趣，英語成績每個學期都是全班第一名。當時學校用的數理化課本都是英文原版書，如不學好英文，數理化課也學不好。

　　英語后來成為他投身革命、走出國門的一道橋梁，可以說，英語改變了他的一生。這當然是他當時所沒有料到的。