КПК прошел путь от программируемых калькуляторов до современных устройств, в свое время мало отличающихся от настольных компьютеров. Их история начинается в 60-е годы, когда один из создателей серии Star Trek начал задумываться о ручных электронных устройствах, которые, по его мнению, должны были заменить бумажный документооборот.
В это же время успехи микроэлектроники сделали микрочипы надежнее, дешевле, а следовательно, и доступнее для массового пользователя. Если первые ЭВМ занимали целые комнаты, то с появлением микрочипов они уменьшились в размерах на порядок, и к концу 60-х в компаниях Intel, Wang Laboratories, Sony, Casio уже создавались ручные калькуляторы. За 12 лет своего развития (с 1954 по 1966 гг.) их вес уменьшился с 25 до 1 килограмма.
В 1989 году появляется Atari Portfolio — это был полноценный персональный компьютер класса XT размером с небольшую книгу. Он работал под управлением операционной системы, совместимой с MS-DOS, и включал функции электронной таблицы, текстового редактора и органайзера.
В 1990-е годы формируется новая концепция «электронного органайзера» — Personal Digital Assistant (PDA). В 1993 году компания Apple представила Newton MessagePad — КПК с сенсорным экраном, функцией распознавания рукописного текста, инфракрасным портом и слотом расширения.
В 1996 году компания Microsoft выпустила операционную систему Windows CE для мобильных устройств. Она определила стандартную конфигурацию КПК: 4 МБ постоянной и 2 МБ оперативной памяти, графический экран с определённым разрешением, порты для подключения внешних устройств.
К началу 2000-х годов классические КПК начали вытесняться смартфонами и коммуникаторами, которые сочетали функции телефона, интернета и других устройств.