皇甫谧到二十岁还不好好学习，终日无限度的游荡，有的人认为他是傻子。皇甫谧曾经得到一些瓜果，总是进呈给他的叔母任氏。任氏说：“《孝经》说‘即使每天用牛、羊、猪三牲来奉养父母，仍然是不孝之人。’你今年二十岁，眼中没有教育，心思不入正道，没有什么可以拿来安慰我的。”因此叹息说：“从前，孟母三迁，使 孟子 成为仁德的大儒；曾父杀猪使信守诺言的教育常存，难道是我没有选择好邻居，教育方法有所缺欠么？不然，你怎么会如此鲁莽愚蠢呢！修身立德，专心学习，受益的是你自己，跟我有什么关系呢！”叔母面对皇甫谧流泪。皇甫谧深受感动，于是到同乡席坦处学习，勤读不倦。他家很贫穷，他在亲身参加农业劳动的时候带着儒家经典著作学习，终于博览通晓各种典籍和诸子百家的著作，（皇甫谧）性格恬静，没有奢望，并从此树立了高尚的志向，把写书作为自已的事业，自已取号玄晏先生，写有《礼乐》、《圣真》等论著。后来得了风痹症，仍然手不释卷。