少年便在军中生长，成为小地方的军事领袖。
紧接着，张绣便跟着其伯父张济追随董卓与凉州叛贼交战，虽然董卓自身的军事能力其实很一般，但是，边章和韩遂等人也不是什么能够震动天下的枭雄，顶多也就是祸乱一方的流寇罢了。双方你来我往，跟着董卓的张绣，在战场上，战败时有之，战胜时也有之。
总而言之，张绣将各种战场上的经验，充值的满满的。
有的时候，能力不足，经验来凑。
再后来，初平三年，董卓被吕布所杀，张济与李傕、郭汜等人进攻长安，为董卓报仇。张绣跟随张济，以军功升至建忠将军，封宣威侯。
建安元年196年，张济因军中缺粮，自关中引兵入荆州界，与刘表交战，攻穰城，中流矢而死。
在当时，张济军中也许有比张绣资历或者其他各方面都要高的中层将领，但是，既然这支军队是张济带出关的，那么，它实际上就是张济，乃至张家的私军无疑。
作为军中张济唯一亲属的张绣接管了这支军队，也就是一件非常顺理成章的事情了。
这种情况下，全军也只能一直推举张绣为主帅。
张绣接管了这支部队之后，便立即收兵