Federico Faggin, concepteur de l'Intel 4004, et Ralph Ungermann, issu de l'équipe du Intel 8080, quittent Intel fin 1974 pour monter leur propre société. Masatoshi Shima, qui avait conçu le 8080 au niveau transistor, les rejoint en avril 1975. Grâce à un financement de la société de capital-risque Exxon Enterprises, le trio fonde Zilog.

L'objectif était une puce fonctionnant en 5 volts, compatible en binaire avec l'Intel 8080 très répandu, tout en intégrant des fonctions du Motorola 6800 pour séduire les deux marchés à la fois. Shima a réalisé cette conception avec 8 200 transistors, contre 4 800 pour le 8080. Une équipe de onze personnes a livré le premier prototype fonctionnel le 9 mars 1976, exactement dans les délais, pour un coût total du projet inférieur à 400 000 dollars.

Le Z80 disposait d'un bus de données 8 bits et d'un bus d'adresses 16 bits, exécutait les 78 instructions de l'Intel 8080 plus des instructions supplémentaires, comptait 20 registres 8 bits et 4 registres 16 bits, et pouvait adresser jusqu'à 64 kilo-octets de mémoire.

La puce a équipé des ordinateurs personnels comme le Radio Shack TRS-80, les SORD M23P et M5, le Sinclair ZX81 et le ZX Spectrum, ainsi que le Kaypro II, la plupart tournant sous CP/M. Elle a perdu du terrain sur le marché des PC au milieu des années 1980 face aux processeurs 16 bits d'Intel, mais est restée présente dans l'industriel et l'électronique grand public.

Zilog produit toujours des microprocesseurs et contrôleurs périphériques basés sur le Z80. Sa version évoluée, l'eZ80, équipe les calculatrices TI-84 et TI-84 Plus de Texas Instruments, maintenant en vie une architecture cinquantenaire dans les salles de classe.