“抬杠”一词起源于民间的一种风俗。汉族人民总是在正月十五闹元宵，但有些地方却通过举行一种叫“抬杠会”的花会来表示对元宵节的庆祝。“抬杠会”的具体流程是这样的：很多人抬着一根木杆，大木杆的一头安一把椅子，椅上坐着一个穿红袍、戴纱帽的丑角官。这位丑官的职责就是随机应变回答逛花会的人的问题。即便观众提那些稀奇古怪的问题，丑官也要能应答自如。提问的和回答的有时还会互相争论、批驳，逗得大家哈哈大笑。时间一长，人们就把这种互相争辩的对话形式，叫成“抬杠”了。
与这个词有关的故事其实不只上面的一个。另外一个也很有意思：古时候，有个人开了个“抬杠铺”。老板凭着自己的一口利牙，与人“抬杠”赌输赢，还真赚了不少钱。最后，他竟然把张果老和孔子两位老人家都给说得哑口无言。事情是这样的：有一天，张果老骑着毛驴经过此店铺，觉得很有意思，于是就拿出银子下赌注，与掌柜的比个高低。掌柜的问：“大仙，您整天骑着毛驴到处走，到底是往前走，还是往后走呢？”原来张果老平日总是倒骑在毛驴的身上，所以听到掌柜这样一问，竟瞠目结舌，答不上来，只好认输了。过了不多会儿孔夫子带了学生周游列国来到这里。看见这家能赌输赢的店铺，想到囊中羞涩，决定进去赢点银子做盘缠。掌柜的看见孔夫子来“抬杠”，就问：“‘四书’上有言道：‘父母在不远游，游必有方’。这可是您说的话吗？”孔子说：“正是。”掌柜的又说：“那么您高堂健在，为什么您却四处周游，又没有一定的方向呢？这不是与您自己的信念相违背吗？”一句话把孔子问得无话可说，身上仅有的二两银子也输掉了。孔子垂头丧气地回到弟子身边。子路问清了缘由，抄起一把杀猪刀，来到抬杠铺，对掌柜的喊道：“我说你的头不过半斤重，如若不信割下来称称!”说着就跃上前去，准备动手。掌柜的一看大事不好，连忙赔着笑脸说：“我认输，我认输。”就这样子路把老师输掉的银子又赢了回来。
这个孔子“抬杠”的故事流传很广，“抬杠”一词理所当然也流传很广了。