当奥斯特洛夫斯基的文化和文学素养达到一定水平后，他撰写了一本描述柯托夫斯基部队中英雄战士的中篇小说，寄给一家杂志社，结果没有被采用。可是，他并没有灰心丧气，忍着病痛的折磨，默默地向认准的目标攀登。
1930年4月，奥斯特洛夫斯基和妻子搬到莫斯科，住在克鲁鲍特金大街一条僻静的胡同里。同年秋天，他开始着手创作《钢铁是怎样炼成的》这本书。党组织为了支持奥斯特洛夫斯基的创作，派了秘书和打字员来协助他，这也大大提升了他的写作速度。一年之后，这本书的上部就已经完成。1932年，该书印刷发表，并开始在《青年近卫军》杂志上连载。1933年，在亲朋好友的帮助下，《钢铁是怎样炼成的》一书最终完成。
当时，该书在苏联引起了极大的反响，一些知名人士和著名作家纷纷写信向奥斯特洛夫斯基表示崇高的敬意，甚至老作家妥拉菲莫维奇和列宁的弟妹都特意赶到奥斯特洛夫斯基所在的疗养院，向他表示祝贺。
1936年4月，奥斯特洛夫斯基的父亲去世；两个月之后，他所敬仰的伟大的无产阶级作家高尔基逝世。接连的打击使奥斯特洛夫斯基原本羸弱的身体再次受创，病情急剧恶化；12月22日，终是与世长辞。他留下的最后一笔，是一本给孩子们看的书——《柯察金的幸福》。