sipp-sys 0.1.0

Native llama.cpp FFI layer for Sipp
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17

#include "input_model.h"

#include "decoder.h"

namespace ov {
namespace frontend {
namespace ggml {

InputModel::InputModel(const std::shared_ptr<GgmlDecoder> & gdecoder) : m_decoder(gdecoder) {}

const std::shared_ptr<GgmlDecoder> & InputModel::get_model_decoder() const {
    return m_decoder;
}

}  // namespace ggml
}  // namespace frontend
}  // namespace ov