Поиск замена - stack overflow

Regexp

<a [^>]*?>(((?!<\/a>).)*?)

\1

Еще один regexp

<img[^>]*?src="((?!~).)*?>

Проект в лс

Переполнение стека возникает в используемой библиотеке работы с регулярными выражениями. Это из-за специфики работы просмотров вперед/назад этой библиотеки. Сам автор признаёт наличие проблемы и просто рекомендует не использовать такие констуркции как у вас.

Ваши задачи легко решаются без использования просмотров (бонусом — это еще и работать будет быстрее):

<a [^>]*?>[\s\S]*?</a>
<img[^>]*?src="[^~][^>]+>

К сожалению других альтернатив я вам предложить не могу.