一、勤奋治学，不懈追求
少年时期的张衡就态度谦虚，勤奋好学，喜欢思索问题。他给自己定的求学信条是：如果对一件事情搞不明白就放弃，是可耻的行为;平时要善于克制约束自己的欲望，把精力用到钻研学问上。为此，他以旺盛的求知欲、饱满的学习热情，先后熟读了《诗经》、《书经》、《礼记》、《易经》、《春秋》等儒家经典名著。他越学越感到学海无涯、知识的永无止境，越学兴趣越浓、疑问也越多，由于在家中苦学已不能满足他的求知欲，于是他要出外求学，要跟别人探讨，要向水平更高的人学习。
为此，公元94年，张衡刚满十六岁，就独自一人走出家乡。先是到西汉时的都城长安地区游历。饱览关中地区的名山大川、辉煌建筑和市井民情。所见所闻、所思所感不仅让他加深了对书本知识的体会，而且还积累了大量的文学素材，为文赋写作打下了一个良好的基础。一年后，他又来到了当时的政治文化中心——都城洛阳。在这里，他常到太学去参观旁听，遍访名师，单独请教;在这里，他结识了一大批志同道合的朋友;在这里，他的视野大开，学识大进，学问水平达到了一个新的飞跃。在张衡看来：君子不必担心自己的地位不够尊荣，应该担心的是自己的德行不够高尚;君子不必以待遇低俸禄少为羞耻，真正值得羞耻的是学识不够渊博。在这样的思想主导下，他放弃了多次做官的机会，专心于学习，专心于知识的积累。
公元112年，张衡担任了朝廷的太史令。这是一个主持观测天象、编订历法等事务的中层官职(东汉以后，修史的职能分了出去)，虽然地位不高，但他对这一符合自己兴趣、学以致用、能进一步开拓天文研究领域的职务，感到十分满意。在任内，积极从事理论研究与实践，创制了用来演示天体运行的浑天仪，制成了世界上第一台观测和报告地震的仪器——候风地动仪，并系统观测天体运行，写成了天文学巨著《灵宪》，对天地生成、宇宙演化、天地结构等重大课题进行了系统的阐述，使我国当时的天文学研究居于世界领先水平，对后世产生了深远的影响。
此外，张衡还研制了众多在当时世界上具有领先水平的器械：利用机械原理和齿轮制造了“指南车”，被西方学者称为“是一切控制论机械的祖先”;创造了计算里程的“计里鼓车”，西方一千八百多年后才有类似机械出现;制造了“瑞轮英”，是世界上最早的机械计时器;创造了“独飞木雕”，是世界上最早的机械飞行器，早于西方一千五百多年;制造了气象学中预测风力风向的仪器“候风仪”，西方一千多年后才有类似发明出现。
张衡的科学研究精神与取得的科学成就，在当时并不为人们所全部理解。当时人讲求的是读书做官，科学创造常常被当成是没用的技术，是低下的工作。面对一种种非议，乃至冷嘲热讽，张衡意志坚定，不为所动，而是更加发奋进取。这种不受外界浮华干扰的品质和自强不息、勤奋治学的科研精神，同他的各种发明创造一样，是中国历史上的宝贵财富。
二、为官淡泊，不慕荣华
张衡的一生，官做的不大。他不慕荣华，不拉关系，不把时间用在无益的迎来送往方面，坚守自己的一方净土。
由于张衡少年时期品德优良、才华出众，曾被推荐为孝廉(这是做官的基础)，但他不去应荐;后来官府屡次召请他离家做官，他也不去应召。有名的大将军邓骘认为他是一个奇才，多次派人上门相请，他坚辞不就，而是安心读书，沉浸在书山学海之中。在他看来，功名富贵不是人生应该追求的目标，学识渊博、修身克己才是君子应该有的品质与态度。后来，由于长年游学在外，没有收入来源，而家境又不富裕，再加上当时家乡南阳郡的太守鲍德诚恳相邀，张衡就从京城回家担任南阳郡的主簿(秘书长)，帮忙办理郡政。在任的九年时间里，推广铁制农具，兴修水利，开办教育，提高科技水平等，为南阳当时经济的繁荣和教育事业的发展做出了突出的贡献。
可是，当鲍德由于政声卓著被调入京城任主管农业的大司农时，张衡却拒绝了鲍德邀他共同赴任的盛情。放弃了这一晋身京官、为自己飞黄腾达创造条件的机会。在张衡看来，世间该学的东西很多，自己学业还没有完成，还不能出外做官。所以，鲍德去洛阳赴任的同时，他便辞去了主簿的职务，回到自己的老家，专心钻研学问，这一呆就是三年。
后来，张衡虽然响应皇帝的征召，来到朝廷，也是不羡慕那些人们津津乐道的热门官职，不结交权贵显宦，而是在干好本职工作的同时，把全部的精力都投入了学术研究之中。虽然官职多年不能升迁(如在太史令的职位上就前后干了十四年)，也是处之泰然。不少人惋惜他空有一身才能，有人替他抱不平，有人叹他不得志，更有人嘲笑他说：你不是能叫三轮车自己转、让木头鸟自己飞么，为什么不也修理一下你自己身上的机关，赶快往高枝上飞啊？那些人还煞有介事地告诉他，应该放弃自己的原则主张，低下头、弯下腰，对别人吹吹拍拍，多说好话。张衡对这种嘲笑嗤之以鼻，他特意写了一篇文章，表达了自己的志向，回敬那些闲言碎语：有些人把邪门歪道当成升官的捷径，我绝不愿意前迈一步;那种靠取悦权贵以求得自身功名的人，我绝不同他为伍;如果得到的东西不是来自正当途径，我就是不得也不是什么可惜的事情。对那些为了升官发财而不择手段，空有堂堂七尺男儿身，却处处表现出一种奴颜婢膝的丑恶行径，表现出了十分的蔑视和憎恶。
张衡的这种操守和品格，这种不慕荣华、严肃对待自己人生和事业的精神，在争名于朝、逐利于市的世俗纷扰中，显得是那样的可贵，那样的卓然独立、令人景仰。
