この場合、通常の文字列の並べ替えが機能するとは思われません。カスタムソートを実装する必要があります。
DataGridでカスタムソートを実装する方法については、linkを確認してください。また、DataGridのソートパフォーマンスを向上させます。
DataGridのソートイベントを処理する必要があります。
dataGrid.Sorting += new DataGridSortingEventHandler(SortHandler);
その後、イベントハンドラ内で使用すると、(hereから取られた)このような何かをするだろう
void SortHandler(object sender, DataGridSortingEventArgs e)
{
DataGridColumn column = e.Column;
IComparer comparer = null;
//i do some custom checking based on column to get the right comparer
//i have different comparers for different columns. I also handle the sort direction
//in my comparer
// prevent the built-in sort from sorting
e.Handled = true;
ListSortDirection direction = (column.SortDirection != ListSortDirection.Ascending) ? ListSortDirection.Ascending : ListSortDirection.Descending;
//set the sort order on the column
column.SortDirection = direction;
//use a ListCollectionView to do the sort.
ListCollectionView lcv = (ListCollectionView)CollectionViewSource.GetDefaultView(this.ItemsSource);
//this is my custom sorter it just derives from IComparer and has a few properties
//you could just apply the comparer but i needed to do a few extra bits and pieces
comparer = new ResultSort(direction);
//apply the sort
lcv.CustomSort = comparer;
}