琅威理見李鴻章如此急切，反倒不急不忙，開始提出各種條件，如海軍總教習擁有調派兵勇之權；其在中國服役期間不能影響在英國軍隊的年資和升遷；其借聘須經赫德之手辦理，否則拒絕受聘；最後，琅威理簡直和敲詐一般開出天價的年薪待遇。對琅威理的各種無理要求，李鴻章盡量滿足。然英國政府卻不答應。英國海軍部一不願現役軍官到中國任教，防止泄露本國軍事機密；二是英國政府認為琅威理既然到中國任職，在英國的年資應自動停止；三是琅威理在中國的服役年限不符合英國法律。清政府虛位以待，英國政府卻不願放人，雙方就此事僵持不下。這下急壞了英駐華公使威妥瑪和總稅務司赫德。兩個人使出渾身解數勸說英國政府。威妥瑪幾次向英國政府發去密電，曉以利害。他說，如果中國聘不到英國軍官，就會在法國、美國、德國中尋找合適人選，那會極大損害英國在遠東的利益。琅威理隻不過擔任教習職務，如兩國開戰，隨時可將其召回。此事我們不願意做，法國、德國和美國都搶著想幹！隻要李鴻章一聲令下，他們隨時都會派軍官任職。隻要中國政府允許琅威理為清帝國服役，海軍控製權遲早會落入我們手裏！赫德比威妥瑪還著急，在給朋友的信中說，琅威理之事本不應該通過外交途徑解決，應該由私人來安排，因為中國人最不喜歡和官方打交道。他十分擔心李鴻章母親的突然去世會給琅威理來華帶來不利影響。他說，不知道這個偉人要為母親守孝一百天（短喪），還是二十七個月。如果是一百天，這件事還有希望，要是二十七個月此事就可能要泡湯。幸運的是，清廷最終隻準了李鴻章三個月的假期。在二人的努力斡旋下，英國海軍部最終曖昧地表示琅威理在中國任教“既不有所妨礙，也不有所促進”。李鴻章和琅威理正式簽約，聘其為北洋海軍副提督。1882年秋，琅威理正式來華任職。他的任務是負責北洋海軍的操演、訓練及教育事務，直接對北洋大臣負責。琅威理的年薪定為紋銀六百兩，但沒有規定聘用年限。李鴻章本打算長期聘用琅氏，不料後也正因此漏洞，琅威理任職一年後便隨隨便便地辭職跑掉了。
琅威理第一次辭職緣於中法戰爭。按照英國政府規定，大英帝國臣民不得為第三國作戰，因此琅威理必須回國。實際上琅氏的離職另有緣由。自1883年英埃戰爭爆發後，英國皇家海軍許多從前不如琅威理的軍官都升遷高位，琅威理的年資升遷卻一再耽誤。琅威理在中國的地位也很尷尬，雖聘書中早已注明是“副提督銜”，可遲遲沒有正式任命。琅威理到北洋海軍後，總覺得自己是為李鴻章個人服務，而不是為中國國家效力。諸多不滿，琅威理在中法戰爭的關鍵時刻辭職回國。
中法戰爭結束後，清政府決心整頓海防，大治海軍。一時各國政府紛紛派本國軍官前來應聘，希望接替琅威理的職務。英國政府也意識到琅威理的重要性，晉升其上校軍銜和艦長，要求其返回中國繼續任職。1886年春，琅威理重返北洋海軍，受到李鴻章、丁汝昌和北洋官兵的熱烈歡迎。其時正是用人之際，北洋統帥丁汝昌乃陸軍出身，對指揮海軍毫無經驗，海軍官兵甚至很多人連“經緯儀”、“指南針”都分不清。琅威理回任後，3個月內使一盤散沙的海軍變得整齊可觀，得到清廷頒發的二等寶星勳章。醇親王視察北洋海軍後，非常滿意，賞賜琅威理提督軍銜。李鴻章同琅威理重新簽約，年薪由六百兩漲至七百兩，服務期限為五年。琅威理名利雙收，決心把北洋海軍帶出個樣子。他為北洋海軍聘請大量英國海員，將海軍交往禮節引進中國，中國海軍很快與國際接軌。到1891年，中國海軍排名世界第八，比亞洲第二的日本海軍靠前了八位。
1890年3月，北洋艦隊至南中國海例行操巡。提督丁汝昌率鎮遠等四艦巡查海南島，總教習琅威理則留守香港。香港乃英人彙聚之所，琅威理忙不迭地下船去和同鄉炫耀自己的官位和成績，直到天黑才回到船上。按海軍慣例，提督離船降提督旗改升總兵旗。琅威理的校友——海軍留學生劉步蟾下令升起總兵旗。琅威理看到提督旗撤下，非常不滿，因為在他心目中自己和丁汝昌平起平坐，提督旗是倆人共同擁有的。他還經常和部下說：“北洋海軍有兩個提督！”琅威理於是對劉步蟾道：“丁提督走了，還有琅提督在，你憑什麼降下提督旗幟？”劉步蟾並不買賬，堅持軍中隻有丁汝昌一個統帥，他離開就應升總兵旗！兩人就升旗一事爭執不下。李鴻章分別收到來自琅威理和劉步蟾的訴狀，均認為對方跨越職權。李鴻章對此事並未重視，擱置不理。琅威理卻感到備受侮辱，跑到天津威脅李鴻章，如果不嚴懲劉步蟾，他馬上辭職！李鴻章偏偏不信邪，留下一句話：願走願留，悉聽尊便。琅威理一怒之下，再次辭職。