У меня есть сложные данные XML (они могут содержать много данных и могут иметь более 15 ГБ), которые имеют сложную природу с глубокой структурой. Нам нужна потоковая обработка для нашего огромного XML. Использование новой библиотеки Alpakka — наш первый выбор, поскольку это многообещающее решение.
Есть устаревшие потоки в сериализации scala-xml и другие библиотеки Scala, но нам нужно обрабатывать огромные объемы XML в виде потоков событий.
Чтобы упростить ситуацию, давайте представим, что у нас есть Заказ на покупку (XML взят из этого страница).
<?xml version="1.0"?>
<PurchaseOrder PurchaseOrderNumber="99503" OrderDate="1999-10-20">
<Address Type="Shipping">
<Name>Ellen Adams</Name>
<Street>123 Maple Street</Street>
<City>Mill Valley</City>
<State>CA</State>
<Zip>10999</Zip>
<Country>USA</Country>
</Address>
<Address Type="Billing">
<Name>Tai Yee</Name>
<Street>8 Oak Avenue</Street>
<City>Old Town</City>
<State>PA</State>
<Zip>95819</Zip>
<Country>USA</Country>
</Address>
<DeliveryNotes>Please leave packages in shed by driveway.</DeliveryNotes>
<Items>
<Item PartNumber="872-AA">
<ProductName>Lawnmower</ProductName>
<Quantity>1</Quantity>
<USPrice>148.95</USPrice>
<Comment>Confirm this is electric</Comment>
</Item>
<Item PartNumber="926-AA">
<ProductName>Baby Monitor</ProductName>
<Quantity>2</Quantity>
<USPrice>39.98</USPrice>
<ShipDate>1999-05-21</ShipDate>
</Item>
</Items>
</PurchaseOrder>
Я пытаюсь передать все Item из XML и десериализовать их. Имейте в виду, что одни и те же теги могут отображаться на разных уровнях. Более того, элементы/атрибуты внутри Item могут появляться в произвольном порядке. Подход, который я вижу (в основном на основе Alpakka XmlProcessingTest — кто-нибудь может предложить лучшие ссылки?), может выглядеть следующим образом:
import akka.actor.ActorSystem
import akka.stream.alpakka.xml.scaladsl.XmlParsing
import akka.stream.alpakka.xml.{Characters, EndElement, ParseEvent, StartElement}
import akka.stream.scaladsl._
import akka.stream.{ActorMaterializer, IOResult}
import scala.collection.mutable
import scala.concurrent.duration._
import scala.concurrent.{Await, Future}
import akka.util.ByteString
import akka.actor.ActorSystem
import akka.stream.ActorMaterializer
import akka.stream.alpakka.xml.{EndElement, ParseEvent, StartElement}
import scala.collection.mutable
trait Builder[T] {
def build(): T
}
case class Item(partNumber: String)
object Item {
def apply(builder: ItemBuilder,
path: mutable.Stack[String]): PartialFunction[ParseEvent, Unit] = {
case elem @ StartElement("Item", _, _, _, _) =>
val partNumber = elem.findAttribute("PartNumber").map(_.value).getOrElse("")
path.push(s"Item")
builder.partNumber = partNumber
case EndElement("Item") =>
path.pop()
}
}
class ItemBuilder() extends Builder[Item] {
var partNumber = ""
override def build(): Item =
Item(
partNumber = partNumber
)
def reset(): Unit = {
partNumber = ""
}
}
implicit val system = ActorSystem()
implicit val mat = ActorMaterializer()
val path: mutable.Stack[String] = new mutable.Stack[String]()
val xml =
"""<PurchaseOrder PurchaseOrderNumber="99503" OrderDate="1999-10-20">
|<Address Type="Shipping">
| <Name>Ellen Adams</Name>
| <Street>123 Maple Street</Street>
| <City>Mill Valley</City>
| <State>CA</State>
| <Zip>10999</Zip>
| <Country>USA</Country>
|</Address>
|<Address Type="Billing">
| <Name>Tai Yee</Name>
| <Street>8 Oak Avenue</Street>
| <City>Old Town</City>
| <State>PA</State>
| <Zip>95819</Zip>
| <Country>USA</Country>
|</Address>
|<DeliveryNotes>Please leave packages in shed by driveway.</DeliveryNotes>
|<Items>
| <Item PartNumber="872-AA">
| <ProductName>Lawnmower</ProductName>
| <Quantity>1</Quantity>
| <USPrice>148.95</USPrice>
| <Comment>Confirm this is electric</Comment>
| </Item>
| <Item PartNumber="926-AA">
| <ProductName>Baby Monitor</ProductName>
| <Quantity>2</Quantity>
| <USPrice>39.98</USPrice>
| <ShipDate>1999-05-21</ShipDate>
| </Item>
|</Items>
|</PurchaseOrder>""".stripMargin
val documentStream = Source.single(xml)
val builder = new ItemBuilder()
val default: PartialFunction[ParseEvent, Unit] = {
case Characters(any) =>
case StartElement(localName, _, _, _, _) =>
path.push(localName)
case EndElement(localName) =>
path.pop()
case any =>
}
val handle: PartialFunction[ParseEvent, Unit] = Item(builder, path) orElse
default
val source: Source[Item, akka.NotUsed] = documentStream
.map(ByteString(_))
.via(XmlParsing.parser)
.splitWhen(_ match {
case StartElement("Item", _, _, _, _) =>
true
case _ =>
false
})
.fold[ItemBuilder](new ItemBuilder()) {
case (_, parseEvent) =>
handle(parseEvent)
builder
}
.map { builder: ItemBuilder =>
val item = builder.build()
builder.reset()
item
}
.concatSubstreams
.filterNot(_.partNumber.isEmpty)
val resultFuture: Future[Seq[Item]] = source
.runWith(Sink.seq)
val result: Seq[Item] = Await.result(resultFuture, 5.seconds)
println("items : " + result)
println("END")
Пример размещен на Scastie.
Для этого подхода требуется множество обработчиков для каждого тега (val handle: PartialFunction), которые могут быть подвержены ошибкам и слишком хрупки.
Мне интересно, как более лаконично обрабатывать ParseEvent и объединять их в необходимые объекты Item. Любое предложение, как избежать стандартного кода? Есть ли более лаконичный шаблон для десериализаторов?