С++ используется сейчас лишь в разработке игр и в основном, в разработке по для линукса.
Для промышленного написания прикладного софта (под винду, ессно) используется C#.
Место Явы, в первую очередь - клиент-серверные приложения, работающие с базами данных, как правило ацки специализированные, потому и обычному пользователю не знакомые. С рынка игр для мобильных устройств ее почти вытеснили. Да и сами разработчики презентуют ее как платформу для десктопов.

По поводу некошерности использования Явы в приложениях, требующих максимум скорости - можно поспорить, так как сегодняшние мощностя позволяют не заметить тот факт что приложения выполняются в виртуальной машине. Да и сама она сущесвенно ускорена, по сравнению с первыми релизами.
Единственно что заставляет беспокоится за будущее Явы - то что ее приобрел Оракль.

А вообще, советую, в качестве первого языка использовать именно Яву, она существенно прозрачней С#, позволяет избегать ошибок присущих С и заставляет изначально оперировать объектно-ориентированным подходом при программировании (опять же в отличии от С).