Подсистема в UML - это пакет со стереотипом подсистема. Делайте пакет - кладите туда свои классы, присваивайте пакет стереотип подсистема. Как-то так.
В моей модели для пакета нельзя присвоить такой стереотип.
Вообще в списке стереотипов для пакета у меня только одна строка - "Archive".
Я кажется разобрался в чем дело.
В свойствах моей модели для свойства "Object Language" указано "Java"
А если создать новую модель, и в свойстве "Object Language" указать другое значение, например "PowerBuilder", то для пакетов появляется стереотип "Subsystem"