刘少奇对薄一波的理由并不理会，他让徐冰给薄一波下了命令：“去也得去，不去也得去。彻底转变我们过去的斗争方式与工作方法，学习和创造新的斗争方式与工作方法，这是新形势向我们提出的要求。不会就学，到工作中去学。阎锡山正因为知道你是共产党员，才会对你这样欢迎嘛。”

薄一波对毛泽东刚来的电报指示和刘少奇的考虑是完全领会的，况且党的决定，作为一名党员是没有二话可说的。在征得刘的同意后，薄一波到山西实地考察了40天左右。在考察过程中，薄一波将山西的情况全摸得清楚了，对在山西开展工作心中有了底了：“按照党所提出的抗日民族统一战线的方针来衡量山西的情况，觉得不但可以做工作，而且大有文章可做。”

1936年10月下旬，薄一波正式赴晋工作。离开北平时，徐冰传达了北方局对开展山西工作的指示：(1)这次到山西去，首先要争取站稳脚跟。不要搞“左”倾关门主义和空谈主义，不要提阎锡山根本不能接受的口号，不要怕到上层机关去和戴“官办团体”帽子。(2)要踏踏实实地做群众工作，发动群众，组织群众。不做“清客”，不“抬轿子”，要争取抗日民族革命的领导权。(3)由薄一波、杨献珍、韩钧、董天知、周仲英五同志组成中共山西省公开工作委员会，只作公开工作、合法工作。这个组织绝对秘密、不对外。可开会，也可不开，因为阎锡山请的是薄一波，实际上就是通过以薄一波的名义来进行工作。公开工作委员会直接受北方局领导。同时成立山西省临时委员会，由张友清任书记。党的公开工作和秘密工作完全分开。

刘少奇还特别交代：“一波同张友清是一块从草岚子监狱出来的，互相很熟悉，无话不说。从现在起再不能发生横的关系，各搞各的，薄搞薄的，张搞张的。张做秘密工作，省委名义是公开的，可以发文件、开会。公开工作委员会不能发文件，也不必开什么会，就是由薄一波在那里领导。”

薄一波一行5人在11月3日到达太原，阎锡山的代表梁化之、郭挺一已在火车站迎接。第二天，阎锡山就将薄一波请到省政府“东花园”赵戴文的参事室进行会谈。曾经做过薄一波的老师的赵戴文和薄的高小同学梁化之陪同。对于这次谈话，薄一波回忆说：

见面稍事寒暄之后，我就开见山地说：“这次能回来在阎先生领导下做点事情，很高兴。山西对我有两道通缉令……”梁化之马上打断了我的话，半开玩笑地说：“现在不‘通缉’，不就请到了吗?”……阎对我也是心中有数的，特别是知道我是真共产党员之后，更是高兴，所以谈得非常之好，无拘无束，而又严肃认真。我说：“我愿意在阎主任领导下工作，是做工作，不是做‘清客’。按咱们家乡(阎和赵是五台人，我和梁是安襄人，我家和阎家、梁家又是邻村)的话说，‘先小人，后君子’，把丑话说在前面。有几点情况我想需要说清楚，然后好共事。第一，我参加共产党多年，可以说是定型了，说话行事总离不开共产党的主张，希望得到理解；第二，我只做抗日救亡工作，对抗日有利的事情都做，不利的事情都不做；第三，在用人方面要给予方便，对我用的人要保障安全，其中会有不少是共产党人。”阎一一表示同意。赵插了一句：“一波，道理全都你占了，我也提一条：在山西省政府里、军队里，你不能发展共产党的组织。”我回答：“可以保证不发展。”有意思，这同北方局对“公开工委”的决定恰好一样。这个“约法三章”，为我们以后工作的开展，提供了合法的依据。我们和阎锡山建立的特殊形式的上层统一战线，就这样开始了。

这次谈话后，赵戴文和梁化之似乎有点不太满意，觉得阎锡山太倚重薄一波了。而阎锡山对此却不在意：“现在抗日是第一等好事，就得用第一等好人去做。”