1960年初，刚满18岁的阿里开始参加业余拳击比赛。已经接受过六年训练的阿里刚一出道就让人们眼前一亮。阿里的启蒙教练说：“我还记得他做过一些可笑的事情，那是一次他和芝加哥的重量级拳击冠军带金拳套的拳击手比赛。我们到了那儿，因为他是第一次出台，要称重量。那人是冠军，先称然后是他。他站在秤台上转向我问道：‘马丁先生今天晚上你急着到哪儿去吗？’我不明白他是什么意思，我说：‘没有啊！还没有定，为什么？’他说：‘我想要是你急着去哪儿，我就在第一个回合把这家伙打倒，你就可以早些走了。’”

果然，在比赛中，对方根本就不是阿里的对手。穿深色短裤的就是阿里。在第一回合即将结束时，阿里连续用重拳将对手击倒，提前结束了比赛，也实现了他在赛前向教练夸下的海口。

凭借优异的表现，18岁的阿里成为美国代表队的成员，出征1960年的罗马奥运会。在81公斤级的比赛中，阿里三战全胜，顺利进入决赛。他的对手波兰人皮埃茨克斯基，是三届欧洲冠军，和1956年奥运会的铜牌得主。

他在场上的精湛技艺令人叹服，有人形容他的出拳，像蜜蜂刺人一样的犀利，而他脚下的步法，又像飞舞的蝴蝶一样轻盈、灵活。此外，年轻的阿里不仅在场上表现突出，在生活中他也非常活跃。在奥运村里，他向每个人问好，还和大家开各种玩笑，成了那里知名度最高的运动员。

三个回合下来，阿里以点数的优势战胜对手，获得了自己唯一的一枚奥运会金牌。而他独创的步法，也被人们形象地称为蝴蝶步。