铁利和越喜等部与黑水相邻，不可能与黑水没有任何联系，肯定也曾经遭到黑水南下扩张的侵扰或被黑水施加过影响。但是对于上述诸部而言，其最大的利益仍在与唐王朝的朝贡贸易上。而要保证继续入唐朝贡，就必须处理好与渤海的关系，包括对渤海的臣服。所以，只要渤海能够保护其免受黑水的报复，从现实利益出发，诸部肯定更愿意倾向于渤海。这样，黑水靺鞨失去了在这些地区的威慑力。
黑水靺鞨受到渤海的武力打击，其主要活动区域，已经离开初期的中心地区松花江北流段，东向到黑龙江中游即黑龙江、松花江和牡丹江三江会合处附近，向下游移动；但其势力可能还没到达黑龙江下游近海段，因为当时在黑龙江近海处尚有郡利部等，黑水靺鞨向这些地区扩张和对上述地区的控制，或许应当求诸于“颇能讨伐海北诸部，开大境宇”的大仁秀治世及其后[15]。
三，唐王朝对黑水羁縻的终结与渤海的发展
735年，大武艺病死。其子大钦茂袭位，不久即着手缓和与唐王朝的紧张关系。而在这时，随着突厥被回纥击溃瓦解，恢复和加强缘边地区行政机构对邻近蕃邦的管理也提上唐王朝的政事议程。大致在开元二十八年（740年）年前后，朝廷敕令平卢军节度使乌知义：“渤海黑水近复归国，亦委卿节度”[16]。令其继续押领契丹与奚同时，又加押领渤海与黑水两蕃[17]。这里的“渤海黑水近复归国”，是指渤海和黑水都在与唐交通断绝多年之后重新开始朝贡。另据《资治通鉴·唐纪》（卷二一五），天宝元年（742年），玄宗置十节度，以统边军。其中“范阳节度使制临奚、契丹，治幽州。平卢节度镇抚室韦、靺鞨，治营州。”内容相近的记载还见于《旧唐书·地理志》：“平卢军节度使，镇抚室韦、靺鞨，统平卢、卢龙二军，榆关守捉，安东都护府。”此处的“靺鞨”系何指不得其详，但是如果考虑到两年前已经确定由平卢军节度使押领渤海与黑水，恐怕黑水靺鞨就不在此“靺鞨”之列了。
在平卢军节度使押领体制下，黑水势力再度抬头。自开元二十九年（741年）至天宝十一年（752年）的12年间，黑水朝唐达五次之多。755年（天宝十四年）安史之乱爆发后，平卢节度体制迅速崩溃。762年，平卢军被迫南下，在山东与当地的淄青节度使重组为淄青平卢节度使，而原来归平卢军节度使镇抚的四府，契丹和奚，由幽州的卢龙节度使押领[18]；渤海，与新罗一起改由淄青平卢节度使押领，惟独黑水靺鞨去向不明，而且以后的史料中也不复见到任何对黑水押领、管理等的记载。而且，即便前文提到的《资治通鉴》等史籍中的“靺鞨”包括黑水靺鞨，平卢军节度使南下，改编后，也同样不再具有“镇抚”黑水的职能。
这是研究唐代羁縻府州兴废变迁的一个值得注意的事例。然而迄今为止，甚至专事唐代羁縻府州研究的学者也完全没有注意到，或因循《唐会要·靺鞨传》等记载，认定随着渤海对黑水靺鞨的役使，这个羁縻都督府可能就不存在了[19]。事实上最大的可能是，处于安史之乱中和乱后的唐王朝，认定黑水业已役属渤海或被消灭；在已经无力制约渤海的情况下，表面上也只能默认这个既成事实。安史之乱后，唐王朝一蹶不振，从此再无心经略东北，非但不复谋求与黑水靺鞨联合牵制渤海的扩张，甚至放弃了对黑水的羁縻政策；自然，对渤海与黑水之间关系的推移也失去兴趣，黑水靺鞨在唐对周边部族的节度使押领、镇抚体制中消失，当是这种变化的反映。至此，黑水与唐王朝夹击渤海的策划，连表面上的形式都不存在了。
但是，上述发生在唐王朝的这一系列变故，在渤海，可能直到762年被划归淄青平卢节度使押领之后才有所了解；不过，渤海还是对安史之乱和黑水的新动向做出了反应。例如，乱中，平卢军节度使曾派人到渤海动员其出兵共击安禄山，大钦茂怀疑其中有诈，拒绝派兵，且扣留了来使。之后不久，即天宝末，大钦茂便将都城从中京北迁到了上京龙泉府（今黑龙江省宁安市渤海镇）。这次迁都上京，历来多被看作是大钦茂远避战祸的权宜之计，但是从渤海与黑水靺鞨的紧张状态等情况看，恐怕还与渤海国家的北方防御和领土拓展有关。
上京，本“肃慎故地”［《新唐书·渤海传》（卷二一九）］，并非大祚荣建国之初所有，应为大武艺“斥大土宇”的战果。渤海迁都上京后，来自唐土战乱的威胁明显减弱了，但在地理上距离黑水接近了，这样就要求在新都城之北构建针对黑水的防御系统。首先要做的是扼住通向黑水靺鞨中心地区的交通要道，这条要道从渤海上京沿牡丹江北上，经南城子、渤海边墙而到依兰；从依兰向东北，沿松花江抵达俄罗斯伯力[20]。目前学界普遍称之为黑水道。1979年至1984年，牡丹江市文物管理站先后五次对该市的50公里边墙进行了调查，认为这是一条古代军事防线，防御方向在东北，为渤海时期修建[21]。研究者对该边墙及对岸的“南城子”古城（渤海重镇渤州）的年代、性质和关系做了进一步考证，认定边墙建于渤海前期，与右岸的“南城子”一起，形成隔江呼应的配置形式，紧扼黑水道；一方面可以阻止黑水靺鞨南进，保卫上京城，同时又可以有效地控制黑水道的交通[22]。
之后，渤海又在牡丹江边墙和“南城子”以北，沿江在今鹰嘴砬子小城、兴农古城、迎门石小城、沿江古城、三道通古城和五道河子古城等遗址所在地修筑了一些堡垒，步步为营，向北推进，向黑水靺鞨逼近。
四，8世纪中期以后黑水靺鞨与渤海关系的推移
反映8世纪以后黑水靺鞨与渤海关系的资料主要是以下几则。其一是《唐会要·靺鞨传》：
其拂涅、铁利等诸部落，自国初至天宝末，亦尝朝贡，或随渤海使而来。惟郡利、莫曳皆三两部未至。及渤海浸强，黑水亦为其所属。（《太平寰宇记·勿吉传》同于本传，可见两史料如果不是源于同一出自，就是后者因袭、照搬前者记事）。
其次，是《新唐书·黑水靺鞨传》最末一段记载：
拂涅，亦称大拂涅，开元、天宝间八来，献鲸睛貂鼠白兔皮；铁利，开元中六来；越喜，七来，贞元中一来；虞娄，贞观间再来；贞元一来。后渤海盛，靺鞨皆役属之，不复与王会矣。
此外，《金史·本纪一·世纪》（卷一）中也有记载：
（黑水靺鞨）开元中，来朝，……其后渤海盛强，黑水役属之，朝贡遂绝。
首先，根据以上史料记载，天宝以后，拂涅、铁利不复入唐朝贡；越喜和虞娄最后朝唐是在贞元年间（802年）。大概可以判定拂捏与铁利在8世纪60年代后，越喜与虞娄在9世纪上半叶相继被渤海吞并，其地成为渤海领。这其中当然不排除史书记载可能有缺漏，但不会有大过。而且，这些地区在渤海的15个府中都留下痕迹[23]，可以证明。在这个意义上大概可以说，靺鞨诸部对唐朝贡断绝之日，即其并入渤海之征。
接下来看一下黑水的情况。
在入唐朝贡这一项上，开元、天宝年间，史籍可考入唐朝贡的靺鞨诸部中，黑水就显得与众不同，拂涅、铁利和越喜等部或相伴同行，或在臣服渤海之后随渤海入唐。而黑水却常常独自行动。显然，当时黑水已经不可能再通过渤海境朝唐，渤海已经阻断了黑水从其领内经过的道路。然而黑水却可以继续与唐王朝保持联系。问题是，黑水靺鞨在不能从渤海领穿越的情况下如何到达大唐的。关于这一点，以下《册府元龟·朝贡四》天宝年间黑水靺鞨的朝唐记录似乎可以提供一点线索：
1 六年正月，“新罗、渤海、龟兹、于阗、焉耆、牂牁、杂姓平蛮、黄头室韦、黑水靺鞨并遣使来贺正”
2 七年正月，“黄头室韦、和解室韦、赂丹室韦、如者室韦、黑水靺鞨等并遣使朝贡”
3，七年三月，“黑水靺鞨、黄头室韦、
