Борис Яковлевич Ильвов родился в 1889 году в Шемахе Бакинской губернии. Окончил Морской корпус в 1909 году. Мичман (1910). Произведен в лейтенанты 6 декабря 1913 г. Во время Первой мировой войны служил на Балтийском флоте.

В Добровольческой армии со 2 января 1918 г. в Морской роте Офицерского полка, 1–9 февраля 1918 г. командир той же роты. Участник Первого Кубанского похода. Ранен, с мая 1918 г. начальник штаба Донской флотилии.
В белых войсках Восточного фронта в Сибирской флотилии. Капитан 2-го ранга (28 марта 1920 г.).