.NET Framework 4.5 だと動く。4.5.1 だと例外スローされる。

MainWindow.xaml

<Window x:Class="WpfApplication38.MainWindow"
        xmlns="http://schemas.microsoft.com/winfx/2006/xaml/presentation"
        xmlns:x="http://schemas.microsoft.com/winfx/2006/xaml"
        Width="200"
        Height="100">
    <TextBox Text="{Binding SampleText}" />
</Window>

MainWindow.xaml.cs

using System.ComponentModel;

namespace WpfApplication38
{
    partial class MainWindow 
    {
        public MainWindow()
        {
            this.InitializeComponent();
            this.DataContext = new ViewModel();
        }
    }

    public class ViewModel : INotifyPropertyChanged
    {
        public string SampleText { get; private set; } = "なぜか動く";
        public event PropertyChangedEventHandler PropertyChanged;
    }
}

ViewModel が INotifyPropertyChanged を実装していない場合、.NET Frameowrk 4.5 でも動かなくなる。っぽい。