1898年6月，张太雷生于江苏常州西门外西仓街薛天兴皮行后院。他的高祖为乾隆年间太学生，地方志有传；曾祖经商致富，秉性仁厚，曾为赈灾捐赠大量钱粮，朝廷奖以翰林院孔目衔；祖父是五品候选知府。不说祖上的风光，他的父亲仅为县邑庠生（秀才），家道中落，长年寄居在操小手工业的岳父薛锦元家。

张太雷小时候名泰来，父亲名张光斗，母亲薛氏，江西萍乡安源煤矿总办吴绍介绍张光斗到安源煤矿谋生。1901年春，泰来两岁，全家到安源煤矿。张光斗当洗煤台文书，矿上安排住房，生活安定下来了。矿区没有私塾。泰来7岁时，父亲是家教老师，以《千字文》、《百家姓》、《三字经》为教材，从识字始，以后学唐诗、宋词。张光斗白天上班，薛氏督促姐弟俩复习功课，抄书或默写。

1906年春节期间，张光斗病倒，很快去世，年仅36岁。在萍乡无依无靠的薛氏只能带孩子返回常州，在吴绍曾家帮佣，泰来进入贞和堂设立的私塾读书。塾师是个老秀才，教的离不开四书五经，教完一篇，就要学生背诵，背不出就用戒尺打手心，泰来从小学过《千字文》、《百家姓》，有时上课思想不集中。一天，塾师领读《千字文》，发现他在看《孟子》，当场叫他背《千字文》，他从“天地玄黄，宇宙洪荒”背起，一字不差。第二天，塾师宣布，从今天起分两个班教学，张泰来学《孟子》，别人学《千字文》。泰来把《孟子》打开，看到老师用毛笔写的纸条：“学新以增智，温故而知新”。

1911年夏天，泰来小学毕业，进入常州府中学堂，中学堂设置课程多，他如饥似渴地汲取各门知识，英语成绩每学期都是全班第一。当时学校用的数理化课本是英文原版，不学好英文，数理化课也学不好。英语后来成为他投身革命、走出国门的一道桥梁。

语文老师马次立一次给学生出作文题，题目是“试论学生之职责”。有的学生写今后抱负是出人头地，有的要当官发财，有的想搞发明创造，有愿作教师的，有愿做医生的。泰来写道：“今日之莘莘学子，明日之国家栋梁，应砥砺品行、刻苦求学，关心民众疾苦，思考祖国前途，以救国救民、复兴中华为已任。”马老师读了，特地把他叫到办公室说：为了你能时刻记住‘复兴中华’的誓言，建议你把泰来的名字改为张复，好不好？

泰来从此改名张复，直到上大学前一直用这个名字。他一生用过的名字包括化名、笔名共19个，主要有泰来、复、长铗、太雷、大雷、椿年等，还有两个苏联名字。太雷是参加革命后启用的。他的含义，一是为泰来的谐音，主要的是立志作长空的惊雷，作震憾旧社会的霹雳，以唤醒国人共同为建立强盛的新中国而奋斗。

1916年，张太雷考入天津北洋大学法政科，1920年毕业。他与瞿秋白是同乡，常州府中学堂同班，后为瞿秋白的入党介绍人。

1918年，正在北洋大学读书的张太雷，遵从母命，暑假返乡与陆静华结婚。陆静华家境贫寒，父母早逝，靠叔父抚养教育，她与同太雷同年同月出生。成婚后，租住在南门外子和里三号。张太雷也只有寒暑假才能回家团聚，平时由陆静华照料母亲薛氏。

1918年8月，北洋大学法科教授福克斯等在天津创办《华北明星报》，该报作为20世纪上半叶华北地区发行量最大的英文日报，受政府新闻检查限制较少，较客观地刊载了大量当时的社会、政治、经济信息。在北洋大学法科学习的张太雷被聘为兼职编辑，并为俄共党员柏烈伟工作，翻译了大量的“社会主义革命文献”。

五四运动期间，张太雷是天津爱国运动骨干，与周恩来等结下友谊，作为天津学联代表赴北京结识了李大钊。1920年春，维经斯基来华，与李大钊、陈独秀商议在中国建立共产党的事宜，张太雷英语好，李大钊挑选他担任翻译。随后他参加北京党的早期组织。

1921年初，张太雷被派往伊尔库茨克共产国际远东书记处工作，成为第一个在共产国际工作的中国共产党人。6月22日，共产国际第三次代表大会在莫斯科大剧院隆重召开。有52个国家、98个组织的603名代表参加。张太雷和杨明斋参加了这次长达20天的会议。

7月12日是大会的最后一天，莫斯科大剧院楼上楼下的五千多个座位无一虚席，连走廊里都挤满了人。列宁、季诺维也夫、布哈林等大会主席团成员出席。按计划，张太雷将在今天大会上代表中共演讲。这是中共代表第一次走上国际讲台。为此，张太雷、杨明斋和瞿秋白作了充分准备，写了《致共产国际第三次代表大会的报告》，报告约一万五千字，力图阐明中国国情，指明中国革命道路，期望得到共产国际对中国革命的关注与支持。

会议进行一个多小时后，大会执行主席宣布：由于要求上台发言的人多，每位代表发言不得超过5分钟。这是突如其来的变化，张太雷知道不可能照原来的讲稿发言了，赶紧列出简要提纲。

张太雷刚好演讲5分钟，一万五千字的讲稿会后递交主席团，刊登于共产国际远东书记处机关刊物《远东人民》1921年第3期。

1921年8月，张太雷回国，为刚参加一大的马林当翻译。陪同马林与陈独秀讨论中共最低纲领和最高纲领，初步决定同孙中山领导的国民党建立联合战线。不久，张太雷陪马林会见孙中山。