VB не отображает символы с ASCII кодом < 32, потому что их нету в шрифте MS Sans Serif, выбранном по умолчанию. К слову, в остальных стандартных шрифтах их тоже нет.
Добавить к текстовой строке символ по его юникоду можно функцией ChrW. Вот только с его выводом на экран будут проблемы: стандартные контролы VB не поддерживают Юникод.
Изображение символа в любом случае никак не связано с раскладом клавиатуры.
См. тж.
http://vbstreets.ru/VB/Articles/66364.aspx