他一生写了不少诗，除了难以计数的打油诗，“正经”的诗也写过一些，把他称为“诗人”完全没有问题。可是他却说：“实际上我并不是一个诗人，也从未认真写过什么像样的诗。”对于早年写的诗，他说是“写着玩的”；晚年写的打油诗，他更说是“恐怕连打油也不够格”。连同人们给予他的“翻译家”“大师”等等，他对一切荣誉称号的不接受，似乎也不像一般人会有客套，而差不多是彻底的虚无，即通常所谓看淡，名利心淡。
杨宪益在上中学之前，跟着家里的塾师魏汝舟，除了读《四书》《五经》等典籍外，又读了一些诸如《千家诗》《唐诗三百首》《楚辞》等诗歌，还学对对子，也开始读爱写诗的老师写的一些旧体诗，这是他作诗的基础和所受的训练。
杨宪益曾应老师之命，写出一副对联：“乳燕剪残红杏雨，流莺啼断绿杨烟”，为老师所激赏，夸他是神童。在老师的鼓励下，杨宪益开始对写诗产生了兴趣。可是读了初中后，他就忙于功课，作诗的事情就暂且忘在脑后了。直到上了高中后，他写诗的兴趣才又被勾出来。
那时他的同班同学中，有一位叫廉士聪的，对中国诗词兴致很大，也写了一些旧体诗。在他的影响下，杨宪益写诗的旧火复炽。但他不喜欢旧体诗，觉得讲究用典平仄的旧体诗满是陈词滥调，受吴宓借用旧诗形式而寓新内容的五言古诗的影响，着手尝试。
晚年时杨宪益回忆道：
“从高中一年级到三年级的两三年时间，我同廉士聪一唱一和，大概也写了一百来首……当时天津报纸上有个副刊，名叫‘学衡’，主张‘旧瓶装新酒’，我们都受其影响。我当时写过一首诗《雪》，又写过一首《死》，这两首诗廉士聪曾抄下来，后来寄给吴宓（雨僧）先生看，很得他的称赞。”
杨宪益对于“学衡”的回忆有误，但也不能说完全是错的。
在二十世纪一二十年代，由对中国传统文化的不同态度以及文言文、白话文孰存孰废，在留洋的学生中形成两派，一派以胡适为代表，主张全盘西化，以白话文替代文言文；另一派相反，极力要维护中国文化。胡适一派有《新青年》杂志作阵地；另一派就创办了《学衡》杂志，这派人就称“学衡派”。《学衡》于1922年1月在南京正式创刊，至1933年7月停刊，其间出出停停，共出了七十九期。南京东南大学当时是学衡派的大本营，《学衡》杂志就是该校一些教授办的，担任主编的，正是英语系的教授吴宓。
1927年12月，时在清华执教的吴宓写信给天津《大公报》老板张季鸾，毛遂自荐做该报的《文学副刊》的编辑，张季鸾当即表示同意。吴宓随即邀集学衡派成员来协助他办刊，自1928年元月至1934年元月，每周一期，吴氏《文学周刊》出版了三百余期。
显然吴宓是想把《文学副刊》办成北方的“学衡”刊物，或是办成不同媒体的“学衡”，事实证明，出自吴氏之手的《文学周刊》被视为《学衡》的同路刊物。这就难怪杨宪益把《大公报·文学副刊》记忆成《学衡》了。
吴宓主编《文学副刊》仅仅一年后，即在学衡派其他成员的要求下，不得不向新文化运动妥协，当然也不可能完全缴械而彻底放弃原有主张，这大概就是杨宪益所说的“旧瓶装新酒”了。
也幸而廉士聪把杨宪益的两首诗拿给吴宓看，又自己留了抄稿，结果这两首诗得以存留，而那一时期杨宪益写的百把首诗，都可惜地散失了。
杨宪益的那首《死》，长达七十八行。那时他才十七岁，又是富家子弟，从未有过忧衣虑食的日子，照理对生活不可能有太多太深的体会和认识，但可能是因为有过少小丧父的经历，加上书读得多，书使人老成，这首《死》不像出自涉世不深的少年人之手。诸如这样一些诗句：
儿生人庆幸，老死人吊唁。
实则生与死，无忧无欢忭。
死亦不足惜，生亦不足恋。
……
小儿畏暗处，差似人畏死。
闻死生疑惧，世人每如此。
培根诚达人，妙语警馀予。
死既未可知，何须相诟訾。
未必死可忧，未必生足喜。
安知人死后，不较生为美？
生时历忧患，一死万事已。
千载此长眠，不受人驱使。
往事如昨梦，堕欢若逝水。
死后若有知，应觉生时鄙。
倒像是一位饱经风霜、阅世颇深的中老年人说出来的。
他的另一首写于同时期的诗《雪》，其气魄之大、见解之深，也不像是个血气观念未定的少年。
那时期，他还写过一首旧体诗，名《珊瑚岛》，以珊瑚岛（礁）的形成过程——由无数个珊瑚虫的遗骸叠加累积——寓意个体的力量或贡献虽然微薄，但合在一起便可创造奇迹。
之后杨宪益出国留学，失去了用汉语的环境，那几年在国外的日子，就再也没有用中文写过诗。回国后在贵阳，他加入了一群爱喝酒吟诗的老先生的聚会，这才又恢复了作诗。
在贵阳师范学院任英语系主任的杨宪益与中文系主任尹石公很谈得来，尹石公在贵阳报纸上编过一个名叫《小雅》的副刊，杨宪益在那上面发表过一些打油诗。他的打油诗创作可能就是从那时开始的。
之后抗战胜利、内战爆发、政权更替、新中国百废待兴，杨宪益虽是一个爱憎不失分明的人，是一个不乏血性的人，但终究不是那种动辄激情澎湃、怒发冲冠的人，他温文尔雅的文人性格大于激动热烈的诗人性格，所以在动荡的社会环境下，成不了古罗马诗人尤维利斯所谓“愤怒出诗人”的诗人，反而暂时失去了作诗的雅兴。
