1938年3月，德国吞并奥地利，两个月后，中国驻奥地利大使馆降为总领事馆，何凤山被任命为总领事。当时他没有想到，自己后来竟会被人们称为“中国辛德勒”。
纳粹军队占领奥地利之初，就将一部分犹太人关进集中营，不过，纳粹当局发出指令：只要犹太人马上离开奥地利，即可被释放。因此，犹太人四处寻找逃出奥地利的途径。但他们要想去哪个国家，必须获得哪个国家的签证。
当时大多数犹太人首选的是美国，其次是英国，但美、英两国对奥移民的名额都有限制，根本不能满足他们的要求。其他不少国家也都强调自身困难，不能给他们办理签证。
成千上万的犹太人每天奔走在各国领事馆之间，但大都没有结果。有一位17岁的犹太少年连续跑了五十多家领事馆，最终仍是空手而归。直到1938年7月的一天，在几乎绝望的时候，他走进了中国总领事馆。富有同情心的何凤山不忍心看着犹太人等死，他决定立即给犹太人办理签证，让他们去中国上海避难。
何凤山给犹太人办理签证的消息传开后，中国总领事馆门前每天从早到晚都排起了长队，许多求助无门的犹太人在这里都拿到了去上海的“生命签证”，从而逃离奥地利去了中国，或转道上海去了美国、巴勒斯坦、澳大利亚等地。
何凤山给犹太人大批发放签证的举动很快引起了纳粹当局的不满。而当时蒋介石对德国有好感，因此，中国政府不愿过分得罪德国。驻德大使陈杰根据中国外交部的指示，打电话给何凤山，要求他立即停止发放签证。但何凤山仍继续为犹太人办证。
在对何凤山施加压力无效的情况下，纳粹当局就以中国总领事馆的房子是犹太人的财产为借口，将房子没收。何凤山向南京申请资金寻址重建领事馆，但遭拒绝。他见寻求资金无望，就自己出钱，租了一个很小的房子，将领事馆搬到那里作为办公地点，并坚持发签证，先后发了近两千个签证，直到1940年被调离。
何凤山生前很少提及他在奥地利的义举，所以在很长的一段时间里，他的义举不为人所知。1997年9月，何凤山在旧金山去世，他的女儿何曼礼在讣告中提到父亲向犹太人发过签证之事。美国的犹太裔历史学家艾立克看到讣告后，立即给何曼礼打电话，求证当年的签证之事。在这以后，何凤山救助犹太人的事迹才传开了。
艾立克找到的这些何凤山救助过犹太人的后裔中，就有美国大名鼎鼎的亿万富翁、现任世界犹太人大会秘书长辛格。辛格含着泪水，激动地对艾立克说：“我的父母是何博士救的，他是一位真正的英雄。我一定要把他介绍给全世界。”
以色列驻中国大使说：“在二战中，有600万犹太人被屠杀，很多国家都看到了这一惨况，但是大部分国家都没有做什么。中国是极少数愿意帮助犹太人的国家之一。”据估计，二战期间有大约五万犹太人从欧洲逃到中国，当时在上海甚至形成了远东最大的犹太人居住区。
以色列总理曾在何凤山在耶路撒冷的纪念碑前说：“他不是天使，他是上帝”。以色列驻华大使称：“何凤山是一位为犹太人的黑夜点燃光亮的人。”犹太人历史学家说：“就像辛德勒（辛德勒是德国商人，二战中救助过一千多犹太人免遭杀害）一样，何博士不仅是中国人的英雄，也是我们犹太人、西方人的英雄。”
