А ты, взявъ собачей ротъ, да хошь за посмехъ ЛАЯТИ,
ино то твое страдничье пригожство; тебе то честь,
а намъ великимъ государемъ с тобою и ссылатися безщестно,
а ЛАЯ от себя писати тово хуже, a с тобою перелаиватися
и на семъ свете тово горее и нетъ, и будетъ похошь перелаиватися,
и ты себе найди таковаго же страдника, каковъ еси самъ страдникъ,
да с нимъ перелаивайся
Иван Грозный. Послание шведскому королю
Юхану III, 1573 г. Нац. Корп. русск. языка
1) Существующая этимология
Викисловарь
* Лай. Корень: -лай-. Значение: короткие, отрывистые звуки, издаваемые собаками и некоторыми другими животными (лисицей, песцом и т. п.); разг. брань, ругань.
* Лаять. Корень: -лаj-; суффикс: -я; глагольное окончание: -ть. Значение и этимология общая.
а) Словарь русского языка XI-XVII вв., АН СССР, М., 1981; http://etymolog.ruslang.ru/doc/xi-xvii_8.pdf
* Лая, Лай. Брань, ругань, поношение; "татарина отпустил царь с лаею", 1491 г.
* Лаяние (о лае собак), Александрия, XII в.; брань, поношение, оскорбление, Полон Иерусалм., Флавий, XI в.; засада, Псал. Чудск., XI в.; козни, 1572 г.
* Лаятель, злоязычник, клеветник; сидящий в засаде.
* Лаяти. О собаке, 1219; ругать, бранить, поносить, XIII в.; злобствовать, устраивать засаду, XI в.
* Лайца. Ругатель, XII в., "...яко лайца беаше и вельми язычен и сварлив". Жит. Андр. Юродливого.
* Лайчивый. Склонный к брани, ругани. XVI-XVII вв.
* Лайба. То же что лая; "всякие лайбы и свары", 1490.
б) Национальный корпус русского языка
* Киевская летопись (XII в.): "конь под нимъ. и възврати и лая дружине сво"и. зане бяхуть "го остали вси".
* Дело о дуэли в Москве сержантов Петра Фалька и Томаса Грельса (1637): "В прошлом государь во 147 году июня в 6 де[нь] пришол ко мне холопу твоему на подворьишко иноземец Томос Грельс пьян, и учал меня холопа твоего лаять матерны, и всякою неподобною лаею, и учал меня вызывать на поединок, и ударил меня шпагою по уху, и я тем ухом не слышу".
в) Словарь Владимира Даля: "Не всяка собака кусает, что лает.-ся, браниться, ругаться. Лаятель - ругатель, поноситель, хулитель; озорник, бранчивый человек; наветчик. Церк. сидящий в засаде, ожидая сподручности для нападения. Лаятельный, бранный, поносный, ругательный".
В русской средневековой лексике термин "лай" (и его производные), кроме лая собак, обозначал случаи словесной перепалки между людьми - ругань, хулу, брань. Иван Грозный в послании шведскому королю представил нам образ ЛАЯ (см. эпиграф), царь сравнивает оскорбления, поношения, высказанные одним человеком в адрес другого с "собачим ртом".
Вывод
Целесообразно рассмотреть термин в связи с библейской терминологией и образами.
4) Терминология иврита и библейский образ
Проклятье - словесная форма негодования, пожелание зла в адрес противника, ругательства; осуждение, разрыв отношений и отторжение. Традиция "проклятия" идёт из Библии - крайнее неодобрение грешных поступков; обращение к Богу, чтобы Он послал смерть или какое-либо несчастье указанному в "проклятие" лицу.
В момент ожесточенной словесной брани противники высказывают "пожелания-проклятия" в адрес друг друга: "да чтоб тебя скрючило", "чтобы ты подох", "иди ты на..." и т.д., что собственно и является руганью-проклятием.
Еврейский термин АЛА в написании без огласовок состоит из букв: АЛЕФ (0 звука, произношение утеряно) + ЛАМЕД (Л) + he (Х-Г), в конце слова не произносится. Лингвисты XIX-XX вв. выявили, что при передаче еврейских терминов русским алфавитом происходили некоторые фонетические преобразования, которые закреплялись письменно; на библейском корне (1-3 знака) образовывалось фактически новое русское слово.
** ивр. АЛА אָלָה = русск. ЛАЙ
Буква АЛЕФ не читалась (нет звука).
Буква ЛАМЕД (Л) = передавалась русской Л.
Буква he (Х-Г): не произносилась; иногда И; в конце слова Й; иногда Г (h).
Итак, слово могли передать как - ЛЙ или ЛАЙ.
*** См. ст. в ЕЭБЕ, Алфавит сравнительный
He (г-х) = лат. h, греч. spiritus asper) по-русски большей частью не произносится: ( )Авель (...), ( )Осия (...), Авра( )ам (...), Син( )едрион (...), или, ассимилируясь с гласным звуком, выражается буквою И (= греч. ..., например: Ииуй (...), Иису(с) (...). Подобно ХЕТ, и he в конце слова выражается через Й: Моисей (...). Впрочем, he иногда выражается через Г (h): Гиллель (...), Гегай (...).
б) Источник
* См. Еврейский и халдейский этимологический словарь к книгам Ветхого Завета, Вильно, 1878; с. 25, АЛА אָלָה проклинать именем Бога, призывать имя Бога для наказания клятвопреступника, проклятье.
* Лексикон по Стронгу и Дворецкому; https://www.obohu.cz/bible/index.php?hs=H422&k=Sd...
* Числа 5:21: "тогда священник пусть заклянет жену клятвою проклятия (ивр. АЛА) и скажет священник жене: да предаст тебя Господь проклятию (ивр. АЛА) и клятве в народе твоем, и да соделает Господь лоно твое опавшим и живот твой опухшим".
* Притчи 29:24: "Кто делится с вором, тот ненавидит душу свою; слышит он проклятие (ивр. АЛА), но не объявляет о том".
* Судей 17:2: "Он сказал матери своей: тысяча сто сиклей серебра, которые у тебя взяты и за которые ты при мне изрекла проклятие (ивр. АЛА), это серебро у меня, я взял его. Мать его сказала: благословен сын мой у Господа!".
Таким образом, библейская терминология А+ЛА (Й) אָלָה и образы послужили основой для создания русского термина ЛАЙ ругань, поношение, проклятие.