Как понимаю граница осталась от слоя с маской? Если да то просто проведите черной кистью (непрозрачность 100%, нажим 100%, размер на ваш выбор, жесткость средняя) по маске, граница должна исчезнуть . Если не помогло, то объясните подробнее что не так.
Попробуйте уменьшить размерность изображения с 5000 Х 5000 на 2500 Х 2500 пикс либо через меню, либо при помощи инструмента кадрировать. После этого сохраняйте кисть. Должно получится.
Автору отдельная благодарность за урок. Конечно понимаю что есть и иные методы достижения подобных эффектов, но пока это самое то для работы на скорость, когда нет времени вырисовывать, а нужно просто сделать.