《小黄人》围绕小黄人们的“前格鲁时代”展开叙述，并特别追溯了小黄人的起源。小黄人总是忠诚地为主人提供各种服务，兢兢业业，毫无怨言，直到它们失手“害死”每一任主人。在痛苦地失去一个又一个主人后，被困在冰洞之内小黄人们愈发焦躁不安，他们决定挺身而出，去到花花世界，再次寻找可以效劳的主人。
时值上世纪60年代，小黄人三人组无意间看到了“坏蛋大会”广告，该大会声称世界第一女坏蛋斯嘉丽·杀人狂会出席大会并发表演讲。于是，三个小黄人搭上了银行抢劫犯的顺风车。在经历了一系列的坎坷之后，小黄人终于成为斯嘉丽的助手。它们为斯嘉丽执行的第一个任务就是盗取英国伊丽莎白女王的皇冠，任务进展的十分顺利，顺利到呆萌的鲍勃竟然莫名其妙的成为新任国王，于是一系列的麻烦接踵而至 。
兼具个体性与群体性，每个独立的小黄人都有各自的外貌特征，只会服务于世界上最“卑鄙”的人。已经存在了几个世纪，并且一直在寻找自己的主人，曾经服务过的主人包括霸王龙、吸血鬼以及拿破仑。不仅专挑“坏蛋”做主人，还一手促成了主人们的灭亡。整体而言，《小黄人》不去推进剧情发展而专注于展现小黄人本身的时候最为精彩，希望看到小黄人演绎什么惊心动魄故事的人恐怕要失望了。但考虑到小黄人的重要特点——他们无人能懂的爪哇国语言，无论是把故事线铺得太开还是让小黄人的性格特色更完整都是既有难度又有风险。