В соответствии с заданием, Николай Поликарпов уже в июне 1936 г. подготовил два варианта самолета - низкоплан и высокоплан, обозначенные общим индексом "Р" (разведчик). В качестве окончательного варианта был выбран низкоплан, но конструктору все же неоднократно, вплоть до осени 1937 г. приходилось возвращаться к схеме высокоплана (иногда использовалось определение "парасоль"). Интерес к этой схеме объяснялся хорошим обзором для экипажа. Артиллерийские корректировщики подобной конфигурации уже имелись или строились на Западе, и представители Главного артиллерийского управления хотели такую же машину. Поликарпов предлагал высокоплан в 1937 г. под обозначением АК-62 (артиллерийский корректировщик с двигателем М-62).

Но, как уже говорилось, окончательно остановились на схеме низкоплана, которая с начала 1937 г. обсуждалась и прорабатывалась с участием всех трех разработчиков. Совещания, согласования и увязки конструктивных элементов машин проходили под знаком выработки наиболее приемлемых решений для всех. Именно поэтому о процессе создания самолета "Иванов" как о некоем конкурсе можно говорить с большой натяжкой.

Весной 1937 г., когда полноразмерные деревянные макеты были практически закончены, от руководства авиапромышленности поступило указание оснастить "Иванов" двигателем М-62, тогда лишь предполагаемым к постройке. В апреле 1937 г. Поликарпов пересчитал свой  проект под М-62 и одновременно выполнил прикидки под перспективный М-88. Он даже увлекся этим проектом, особенно вопросами унификации и удешевления производства массового самолета. Под впечатлением положительных отзывов о применении в Испании истребителя И-16, и, прежде всего, о его живучести и ремонтопригодности, Поликарпов предложил на первом этапе производства "Иванова" применять те же приемы, что и при изготовлении "ишачка" - первоначально изготавливать деревянный фюзеляж с обшивкой из шпона и крыло металлической конструкции, но с покрытием полотном. Затем, по мере развития производства, поэтапно вводить более совершенные элементы - крыло с гладкой металлической обшивкой и пр.

Начиналась работа по созданию поликарповского "Иванова" на территории авиазавода № 84 с деятельным участием конструктора Дмитрия Томашевича - он являлся заместителем Главного конструктора по этой теме.

В окончательном виде самолет был рассмотрен на выстроенном в натуральную величину деревянном макете. Изучив его и ознакомившись с представленными рас- четами, представители ВВС, как основные заказчики, претензий и дополнительных пожеланий высказали мало. Требования по максимальной скорости 350-400 км/ч, практическому потолку 9-10 км и посадочной скорости 90-95 км/ч конструкторы обеспечивали. Основные противоречия касались дальности - военные хотели 2000 км, разработчики обещали лишь 1500 км. Но, тем не менее, самолет был утвержден и принят к постройке на горьковском авиазаводе № 21. Против этого выступал Поликарпов - он опасался, что несколько сот километров, разделяющие Москву и Горький, будут тормозить процесс постройки. Тем более, что опытное производство на заводе № 21 отсутствовало, а все цеха и участки были полностью загружены выпуском серийной продукции.

Опасения Главного конструктора в ближайшее время подтвердились. Пересылка документации, всевозможные согласования, поездки, на которые уходило драгоценное время, значительно затягивали срок готовности первой опытной машины. В конце 1937 г. Поликарпова назначили Главным конструктором авиазавода № 156. Этот завод, известный ранее как ЗОК ЦАГИ, был детищем и вотчиной А.Н.Туполева. После ареста Туполева туда перевели КБ Поликарпова и еще несколько конструкторских коллективов. Например, на ЗОK ЦАГИ работало и строило свой вариант "Иванова" КБ П.О. Сухого.

Переехав, поликарповское КБ продолжило постройку своего "Иванова" на новом месте. 29 февраля 1938 г. из Горького в Москву на территорию завода № 156 доставили законченный фюзеляж самолета. В течение последующего месяца, однако, работа не велась - был занят сборочный цех, не хватало рабочих. Да и могло ли быть по другому. когда обстоятельства свели под одной крышей не столько соратников, сколько конкурентов.

Тем не менее, "Иванов" Н. Н. Поликарпова был построен к заданному сроку- 25 июля 1938 г. 2 августа летчик-испытатель Томас Сузи пробовал рулить на новом самолете, а 3 августа впервые поднял его в воздух. Во втором полете на посадке было повреждено шасси, и ночью машину перевезли обратно на завод.

Тем временем, на аэродром доставили "Иванов" Сухого, который поднялся в воздух 25 августа под управлением Михаила Громова. В дальнейшем. работа П. О. Сухого получила обозначение СЗ (Сталинское задание); под этим скромненьким обозначением три опытных экземпляра с успехом прошли все испытания. И именно суховский "Иванов" был растиражирован в серии под обозначением Су-2.

"Иванов" Немана достроен не был. При установке двигателя М-62 на уже имеющийся разведчик Р-10 получался самолет, вполне вписывающийся в требования, предъявляемые к "Иванову". Второй причиной стал арест самого конструктора Немана, которого постигла участь многих специалистов того времени. Доработку Р-10 под двигатель М-62 провел конструктор Дубровин, самолет получил обозначение ХАИ-52, но серийно не строился.

"Иванов" Поликарпова вернулся на аэродром через месяц после августовской поломки. Недоделок на нем по-прежнему оставалось немало, после каждого полета машину поднимали на козелки и пытались доводить. Не задерживались на самолете и прикрепленные летчики-испытатели- 2 сентября слетал Чкалов, 9 сентября военный испытатель Шевченко, 15 сентября летчик Рыбко из ЦАГИ, 4 ноября испытатель Сахранов. Полеты продолжались до декабря включительно. Если не обращать внимания на технические неисправности, постоянно возникавшие при проведении испытаний, то отзывы о самолете в целом были положительные. Вот некоторые из них: "Самолет, с точки зрения пилотирования простой и производит хорошее впечатление в полете", - Сузи; "Самолет в воздухе ведет себя нормально",- Чкалов; "Самолет простой в управлении, достаточно устойчив, усилия на ручку нормальные", - Рыбко; "Посадка мягкая, тенденций к сваливанию не имеет", - Сахранов.

15 декабря 1938 г. размеренное течение испытаний прервалось. В тот морозный декабрьский день при испытании нового истребителя И-180 конструкции Поликарпова погиб Чкалов. Все полеты были немедленно прекращены. В последующие дни никто не решался выпустить в полет самолет Поликарпова. 25декабря было принято решение вернуть машину на завод для доделок и проведения текущего ремонта.

Два последующих месяца самолет находился на территории завода № 156. За это время его переставили с колес на лыжи, установили новый двигатель М-6ЗР. Этот редукторный двигатель с удлиненным валом был изготовлен в нескольких опытных экземплярах и на тот момент оставался еще достаточно сырым. Поликарповский "Иванов" оказался одним из немногих самолетов, на которые ставился М-63P.

16 февраля 1940 г., когда транспортная команда готова была перевести самолет на аэродром, выяснилось, что ехать, собственно некуда. Все испытательные полеты на Центральном аэродроме, в просторечье- Ходынке, прекращались. Летно-испытательная станция там ликвидировалась. 8-й отдел ЦАГИ в Раменском находился в стадии организации и принимать самолет на испытания отказался. Через неделю с цаговцами, наконец, договорились и "Иванова" отвезли на аэродром, ныне известный как аэродром ЛИИ в Жуковском.

В первом вылете, состоявшемся 21 марта 1940 г., капризный М-63P вышел из строя. Второго такого мотора не нашлось, и в конце апреля установили обычный М-63. Но работы к тому времени неуклонно затухали. В серию уже пошел самолет Сухого, на нем и сконцентрировали усилия. А поликарповский "Иванов" поставили на прикол до лучших времен. Летные испытания завершены не были, дальнейшая его судьба неизвестна.