Hola Luis,
el mensaje de error ya lo indica: TypeScript no encuentra estos métodos en
UI5Element
(que representa la clase base sap.ui.base.Element de todos los Controles, etc.).
El compilador de TypeScript simplemente no sabe que this.byId(...) devuelve un IconTabHeader. No puede saberlo, ya que el tipo de control devuelto depende del ID que se proporciona como argumento (y no hay funcionalidad que busque el ID en la XMLView y le diga a TypeScript qué tipo de control tiene este ID).
La solución es hacer un casting del resultado de esta llamada al tipo de control que sabes que se devuelve:
(this.byId("idIconTabBar") as IconTabBar).getSelectedKey()
Esto se hace comúnmente en el tutorial y ejemplos vinculados desde el punto de entrada central de UI5 & TypeScript (https://sap.github.io/ui5-typescript), así que supongo que tiene sentido mencionar esta página para aquellos que lleguen aquí y no estén al tanto de ella.
Saludos
Andreas