De term cloud is ontstaan samen met het concept van packet switching. Doordat de verzonden datapakketten niet meer over een vastgelegd traject gingen, wist men niet meer, en hoefde men niet meer te weten, welke weg ze volgden om aan hun eindpunt te komen. Sindsdien stelde men het netwerk voor als een wolk om aan te duiden dat men niet met zekerheid kon zeggen welke route binnen de wolk werd gevolgd. In cloud computing gaat het niet meer over verbindingswegen maar over infrastructuren. Sun Microsystems gaf als eerste invulling aan het concept met de slogan "the network is the computer" (het netwerk is de computer) en de introductie van software die het mogelijk maakte taken en gegevens over vele computers te verdelen, zoals het Network File System. De eerste definitie werd in 1997 als volgt door Ramnath K. Chellappa geformuleerd: "Een computerparadigma waarbij de grenzen van de computer worden vastgesteld door het economische aspect eerder dan de technische limieten."[1] Rond het jaar 2000 kwam SaaS erg sterk op. Salesforce.com bouwde technologieën van onder andere Google en Yahoo! om tot echte bedrijfstoepassingen. Microsoft breidde SaaS uit met webdiensten en Amazon moderniseerde zijn datacentra. Door deze spelers kende cloud computing een sterke toename. In 2005 kwam Amazon op de markt met zijn webdiensten en in 2007 begonnen Google, IBM en enkele universiteiten met onderzoeksprojecten om informaticastudenten te trainen in de complexe techniek van cloud computing. Belangrijke aanjager van het succes van cloud computing is de mogelijkheid om de serveromgeving te virtualiseren. Het succes van cloud computing loopt dan ook synchroon met dat van virtualisatie, zoals geleverd door partijen als VMware, Microsoft en Citrix. In de eerste decennia van de computer werd gewerkt met mainframes (server) en terminals (clients). Men gaat met cloud computing terug naar dit concept met als grote verschil dat er geen centraal mainframe meer wordt gebruikt maar een gedistribueerd serverfarm.