pdf no podes, necesitas usar una libreria de terceros, que por cierto hay y muy buenas para .NET, uno de word tampoco, el richtextbox solo carga formato .RTF (Rich Text Format), si guardas el word como rtf si lo vas a poder ver.

Public Class Form1
    Private Sub Form1_Load(ByVal sender As System.Object, ByVal e As System.EventArgs) Handles MyBase.Load
        RichTextBox1.LoadFile("C:\a.rtf", RichTextBoxStreamType.RichText)
    End Sub
End Class

sino para ejecutar cualquier tipo de archivo, haces asi:

Process.Start("c:\a.doc")