Колоната hashbytes се създава като VARBINARY(MAX)
освен ако не му кажете изрично, че 20 байта са достатъчно:
alter table dbo.Softs
add TitleHash AS CAST(hashbytes('SHA1', [Title]) AS VARBINARY(20)) PERSISTED
След като направите това, можете да създадете свой индекс (уникален или не) в тази колона:
CREATE UNIQUE NONCLUSTERED INDEX [UIX_TitleHash]
ON [dbo].[Softs]([TitleHash] ASC)
Сега това трябва да работи добре.