Wie wir eine maschinelle Lernbibliothek für natürliche Sprache ausgewählt haben

2019 erschien in OTR ein neues Zentrum für die Arbeit mit künstlicher Intelligenz (CII). Ursprünglich wurde es als eine Art Experiment für die Arbeit mit neuen Technologien entwickelt. Schon bald erhielt er die erste Kampfmission zur Automatisierung des technischen Supports für Benutzer des GIIS "Electronic Budget". Anatoly Bezryadin, Direktor der Direktion für Technologien und Kompetenzen, und CII-Mitarbeiter, die an dem ehrgeizigen Projekt teilnahmen, sprachen über die Phasen der KI-Implementierung.





Anrufe beim technischen Support sind komplexe technische Anforderungen mit vielen Variablen - Abschnitt, Subsystem, behördliche Dokumentation, Rechnung usw. In einigen Fällen kann der Vorschlagstext bis zu 20 Textzeilen umfassen. Es ist manchmal selbst für eine Person schwierig, den Kontext einer solchen Anwendung zu verstehen, und für die KI kann es überhaupt zu einer unlösbaren Aufgabe werden. 





Die Liste der Schwierigkeiten wurde durch enge Fristen für die Erledigung der Aufgabe sowie Einschränkungen bei den verwendeten Softwarelösungen ergänzt. Da wir mit Regierungskunden zusammenarbeiten, können wir entweder unsere eigenen Entwicklungen oder Open-Source-Lösungen verwenden. 





Auswahl des Typs der neuronalen Netze

« » . , . .





. . . , .





. . . , . , . , .





. , . . . , . .





. . , . .





. .





, . . , , :





  • ;





  • ;





  • ;





  • ;





  • GPT;





  • BERT.





, . .





GPT BERT. , . BERT , , Google. .





:





  • open-source-;





  • ;





  • ;





  • ;





  • ;





  • ;





  • .





:





  • MATLAB + Deep Learning Toolbox;





  • Theano:





  • Torch;





  • PyTorch:





  • TensorFlow/Keras.





MATLAB — The MathWorks. . Deep Learning Toolbox. , . 





. , . , . 





Theano — Python. . , .





, Theano . . 





Torch — . Lua. , . 





Theano, Torch . . . 





PyTorch — . , Torch. Python. 





PyTorch , , . . 





TensorFlow — , Google. Keras, . . 





TensorFlow Keras . , , . Google.





Google TensorFlow Keras . —  , 10 . 





75% . . . . 85%.





« ». . .





, . , .








All Articles