Впервые Джон взял в руки гитару в возрасте восьми лет. Позже он стал посещать бостонский музыкальный колледж Беркли, где вместе с Джоном Маянгом, Майком Портным и Кевином Муром основал группу Majesty, впоследствии переименованную в Dream Theater.
Петруччи — автор видеокурса игры на гитаре, а также колонки Wild Stringdom в журнале Guitar World.
В 2001 году Джо Сатриани и Стив Вай пригласили Джона в концертный тур группы G3, после чего Петруччи записал сольный альбом Suspended Animation. Петруччи побывал еще в трех турах G3 (в 2007 году в составе коллектива произошли изменения: место Стива Вая занял Пол Гилберт).
Именинник признается, что в большой степени на его творчество повлияла музыка Дэвида Гилмора (Pink Floyd). Петруччи не только играет на гитаре, но также пишет песни и выступает в качестве бэк-вокалиста.
